Elon Musk coincidió con Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, en la necesidad de desacelerar el desarrollo de la inteligencia artificial (IA) ante los riesgos de seguridad que plantea el avance de esta tecnología.
Musk, creador de xAI, respaldó en X el pronunciamiento de Amodei, quien pidió a la industria adoptar «un ritmo más lento» frente a riesgos como la pérdida de control de los sistemas de IA, los ciberataques, el bioterrorismo y la disrupción económica.
»Dario tiene razón», escribió Musk en su red social, X.
Amodei advirtió que, la IA está avanzando a un ritmo acelerado debido, en parte, a su creciente capacidad para desarrollar nuevas generaciones de sistemas. «Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet», señaló.
El CEO de Anthropic planteó reducir el ritmo de mejora de las capacidades de los modelos y priorizar la seguridad por encima de la velocidad y el beneficio económico, para evitar una «carrera hacia el abismo».
Entre sus propuestas se encuentra permitir que evaluadores externos e independientes auditen los sistemas de IA y tengan acceso a los procesos de entrenamiento. También planteó que las empresas coordinen estándares comunes de seguridad y establezcan límites al avance descontrolado de la tecnología.
Amodei mencionó además el incidente protagonizado por agentes de OpenAI contra la empresa Hugging Face, señalando que un grupo de agentes realizó ciberataques contra objetivos que no estaban relacionados con la tarea que tenían asignada.
Por su parte, Sam Altman respaldó el planteamiento de Amodei y anunció que OpenAI también permitirá auditorías independientes. «Coincido con Dario en que debemos avanzar a un ritmo adecuado en la frontera tecnológica», afirmó.
Altman calificó como una «excelente idea» que evaluadores independientes tengan un nivel de acceso similar al de los empleados de las compañías y señaló que OpenAI hará lo mismo.
El planteamiento reúne así a los responsables de tres de las principales compañías de IA en un llamado a equilibrar el avance tecnológico con mayores medidas de seguridad.
Fuente: Agencia EFE.
Discussion about this post