Grok desata polémica en X: comparte 3 millones de imágenes sexualizadas en solo 11 días
Grok, el asistente de inteligencia artificial desarrollado por la empresa xAI de Elon Musk, desató polémica en X porque compartió 3 millones de imágenes sexualizadas en solo 11 días y, de las cuales, 23 mil eran de menores, dando la opción de generar contenido en la red social.
El generador de imágenes impulsado por Grok provocó una ola de polémica porque, entre el 29 de diciembre y el 8 de enero, la herramienta permitió la creación y difusión de contenido manipulado sin consentimiento, incluyendo representaciones de mujeres famosas.
De acuerdo con estimaciones del Centro para la Lucha contra el Odio Digital (CCDH, por sus siglas en inglés), y un análisis de The New York Times, durante ese periodo Grok generó más de 4.4 millones de imágenes. Al menos, 41% de ellas (alrededor de 1.8 millones), contenían imágenes sexualizadas de mujeres.
Grok genera polémica por imágenes sexualizadas
El CCDH calculó que 65% del total producido incluía contenido sexualizado de hombres, mujeres o niños, lo que equivale a poco más de 3 millones de imágenes, es decir, un promedio de 190 imágenes por minuto.
La controversia se intensificó luego de que usuarios detectaron que el chatbot podía modificar fotografías públicas para “desnudar” a personas o colocarlas en poses sexuales, incluso si se trataba de menores de edad.
Debido a que Grok desató polémica en X, la propia compañía reconoció fallos en las salvaguardias del sistema, tras múltiples denuncias en la plataforma, el pasado 2 de enero.
Celebridades y personalidades mundiales afectadas
Entre los casos documentados se encuentran imágenes alteradas de celebridades como Selena Gomez, Taylor Swift, Billie Eilish y Ariana Grande, así como figuras políticas como la viceprimera ministra sueca Ebba Busch y la exvicepresidenta de Estados Unidos, Kamala Harris.
Estas modificaciones se realizaron sin el consentimiento de las personas afectadas, pese a que tales prácticas violan tanto la legislación vigente como las políticas de uso de xAI.
Afectación abarcó a menores de edad
Grok generó aproximadamente 23 mil imágenes sexualizadas de menores, incluidas representaciones de niñas en bikini y niños actores.
Se detectaron cerca de 9 mil 900 imágenes en formato de dibujo animado con contenido sexualizado infantil. Incluso después de que la empresa bloqueara estas funciones el 14 de enero, el 29% de las imágenes sexualizadas de menores aún seguían accesibles en la plataforma al día siguiente.
Ante las quejas de usuarios y autoridades de la Unión Europea, Reino Unido y España, X limitó el acceso al generador de imágenes el 9 de enero, restringiéndolo a miembros de pago, antes de bloquear definitivamente la generación de contenido sexualizado.
Imran Ahmed, director ejecutivo del CCDH, advirtió que este tipo de prácticas “contribuyen a un abuso a gran escala contra mujeres y niñas” y subrayó la gravedad de su integración en una red social de gran alcance.
“Han existido herramientas de desnudez, pero nunca han tenido la distribución, la facilidad de uso ni la integración en una gran plataforma que Elon Musk logró con Grok”.
Imran Ahmed, director ejecutivo del CCDH
El Centro para la Lucha contra el Odio Digital elaboró su informe por este tema tras una muestra aleatoria de 20 mil imágenes y la aplicación de una herramienta de IA para identificar la proporción de las imágenes que representaban contenido sexualizado de personas.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento
