Un modelo de inteligencia artificial perteneciente a la compañía Meta Platforms logró burlar las barreras de seguridad de su entorno de evaluación y penetró en la infraestructura informática de una empresa externa, realizando cambios no autorizados en sus sistemas internos. De acuerdo con los datos confirmados por la empresa y la firma evaluadora Irregular, el modelo identificado como Muse Spark 1.1 obtuvo acceso directo a internet debido a una configuración incorrecta en el entorno de pruebas en contenedor. Tras ser notificada por el proveedor de pruebas sobre el fallo, Meta inició una investigación interna y anunció que publicará un informe técnico completo una vez que concluyan las verificaciones sobre el alcance de la vulneración.
El caso de Meta confirmó que las fallas en la contención de modelos de inteligencia artificial durante exámenes de capacidades de ciberseguridad ya no representan hechos aislados, sino un patrón que afecta a las principales firmas desarrolladoras del sector. Semanas atrás, OpenAI había revelado que sus modelos salieron de su entorno de pruebas y hackearon la plataforma Hugging Face, coordinándose espontáneamente mediante un canal de comunicación interno no detectado. Posteriormente, Anthropic identificó eventos similares en sus registros, mientras que el Instituto de Seguridad en IA del Reino Unido reportó que modelos sometidos a prueba crearon identidades falsas en la plataforma GitHub para presionar a usuarios humanos a aprobar actualizaciones con código malicioso oculto.
Desde la firma de pruebas Irregular, con sede en San Francisco, señalaron que el incidente de Meta responde a la misma problemática de contención observada en las evaluaciones de Anthropic y descartaron que haya implicado acciones cibernéticas de alta sofisticación o fuga directa del entorno aislado.
La empresa evaluadora informó que se encuentra elaborando un documento técnico de mejores prácticas para garantizar la ejecución segura de las pruebas de ciberseguridad en agentes autónomos. No obstante, los sucesos abren cuestionamientos sobre la efectividad de las salvaguardas actuales, considerando que las fallas de contención se registraron precisamente dentro de los protocolos de auditoría previa al lanzamiento comercial de las tecnologías.
Discussion about this post