El secretario de la Sociedad Paraguaya de Inteligencia Artificial, Luis Benítez, advirtió sobre los riesgos que implica el desarrollo acelerado de la inteligencia artificial (IA), especialmente ante la posibilidad de que los sistemas adquieran cada vez mayores niveles de autonomía y capacidad de decisión.
Durante una entrevista con Radio 1000, Benítez señaló que la posibilidad de que la IA represente una amenaza para la humanidad no es un planteamiento reciente, sino una preocupación que existe desde hace décadas, a medida que avanzaron la capacidad de procesamiento y la disponibilidad de datos.
Explicó que actualmente se utilizan sistemas de lo que se denomina “inteligencia estrecha”, mientras que las grandes empresas tecnológicas compiten por desarrollar una superinteligencia capaz de superar las capacidades humanas en diferentes áreas del conocimiento.
Según Benítez, además de la carrera tecnológica entre empresas de Estados Unidos y China, existe otro aspecto que debería avanzar en paralelo: el denominado “alineamiento” de la inteligencia artificial.
El concepto apunta a que los sistemas de IA puedan actuar de acuerdo con valores, principios éticos y criterios humanos, de manera que las decisiones adoptadas por los algoritmos no generen consecuencias perjudiciales para las personas.
“Las empresas que desarrollan el algoritmo desarrollan el algoritmo buscando mejorar el algoritmo, pero no desarrollan herramientas o metodologías que aseguren que el resultado de ese algoritmo esté alineado a valores”, cuestionó.
El riesgo de ceder autonomía a la IA
Benítez explicó que el desarrollo actual de la denominada IA agéntica representa un cambio importante respecto de los tradicionales chatbots. Estos sistemas pueden recibir una meta y ejecutar diferentes acciones para intentar cumplirla, interactuando con otras herramientas y fuentes de información.
“Ya no es simplemente la redacción del texto, sino que ya empieza a hacer operaciones y procesos en base a las metas que vos le das”, sostuvo.
En ese contexto, señaló que empresas, gobiernos e individuos podrían comenzar a delegar progresivamente decisiones y procesos en sistemas autónomos.
El especialista mencionó como ejemplo el ámbito militar, donde existen sistemas automatizados capaces de controlar drones y ejecutar determinadas operaciones en función de objetivos previamente establecidos.
Advirtió que, en el futuro, la autonomía de estos sistemas podría extenderse a sectores estratégicos, como el suministro eléctrico, el agua potable, los sistemas sanitarios y las bases de datos médicas.
“Dependiendo de cómo los Estados y las empresas cedan la autonomía en las decisiones, eventualmente podría ser que un agente en lo militar o en alguna otra rama decida hacer cuestiones que van más allá y que atenten contra la vida de la población”, afirmó.
Intentos de uso para armas biológicas
Benítez también se refirió a un informe de seguridad publicado por Anthropic, en el que se expusieron distintos intentos de utilizar herramientas de inteligencia artificial con fines maliciosos.
Según explicó, entre los casos analizados se detectó un intento de utilizar la IA para desarrollar un arma biológica. Señaló que los principales sistemas de inteligencia artificial disponibles actualmente cuentan con mecanismos de seguridad para impedir este tipo de usos, aunque advirtió que existen intentos de evadir esas restricciones.
“Hay formas de, en la conversación, saltarse los controles para poder conseguir esta información”, sostuvo.
El especialista indicó que el desafío consiste en determinar hasta qué punto un sistema debe responder a una solicitud cuando esta puede generar daños a una persona, una comunidad o incluso a un país.
Tecnología al servicio de la dignidad humana
Ante los riesgos planteados, Benítez consideró necesario que el desarrollo de la inteligencia artificial no esté orientado exclusivamente por intereses económicos.
En ese sentido, mencionó como una referencia positiva la encíclica Humanitas, que, según sostuvo, plantea la necesidad de que la tecnología y los algoritmos estén centrados en la dignidad de las personas.
“Creo que hay una gran luz de esperanza, y la gran luz de esperanza para mí es Humanitas, la encíclica del Papa. Ese es un llamado a hacer justamente que todo este tema de los algoritmos, todo lo que es tecnología en sí, no gire alrededor del capital, no gire alrededor de las ganancias de la economía, sino que gire alrededor de la dignidad humana”, manifestó.
Finalmente, Benítez sostuvo que el avance de la inteligencia artificial plantea desafíos que deben ser abordados desde ahora. Señaló que la Sociedad Paraguaya de Inteligencia Artificial busca promover una adopción de estas tecnologías que permita aprovechar sus beneficios y reducir sus riesgos.
“Son tiempos muy exigentes, muy desafiantes, y creo que hay que entrar a la pileta”, concluyó.
Discussion about this post