El chatbot de IA creado por Elon Musk para la red social X, Grok, creó y compartió públicamente al menos 1,8 millones de imágenes sexualizadas de mujeres, según una estimación independiente de datos de X realizada por The New York Times y el Center for Countering Digital Hate.
En el último mes, millones de usuarios de la red social pidieron a Grok alterar fotos reales de mujeres y niños para quitarles la ropa, ponerlos en bikini o colocarlos en poses sexuales, lo que provocó las denuncias y quejas de las víctimas.
Según el estudio del New York Times, en tan solo nueve días Grok publicó más de 4,4 millones de imágenes generadas por Inteligencia Artificial, de las cuales al menos el 41%, es decir, 1,8 millones, «probablemente contenían imágenes sexualizadas de mujeres», según una estimación del medio estadounidense. Otro análisis más amplio del Center for Countering Digital Hate citado por el Times estima que el 65%, algo más de 3 millones, contenían imágenes sexualizadas de hombres, mujeres y niños.
La rapidez con la que Grok difunde imágenes que podrían perturbar a personas anónimas ha llevado a los gobiernos de países como Reino Unido, India o EE.UU a iniciar investigaciones para determinar si violan las leyes locales. Este estallido superó los ‘deepfakes’ de otros sitios web, según estos análisis.
«Esto es abuso de mujeres y niñas a escala industrial», ha afirmado Imran Ahmed, director ejecutivo del Center for Countering Digital Hate, que investiga el odio y la desinformación en internet. «Ha habido herramientas para ‘desnudar’ imágenes, pero nunca habían tenido la distribución, la facilidad de uso ni la integración en una gran plataforma que Elon Musk logró con Grok», sentencian desde la compañía, que no ha querido realizar comentarios en el medio estadounidense.
Entre el 31 de diciembre y el 8 de enero, Grok generó más de 4,4 millones de imágenes, frente a las 311.762 de los nueve días anteriores a las publicaciones de Musk, según Tweet Binder, una empresa de análisis que recopila publicaciones en X para determinar el número que Grok publicó este periodo.
Discussion about this post