Grok desata polémica en X por imágenes sexualizadas generadas con IA

Imágenes sexualizadas generadas con inteligencia artificial (IA) en la red social X, han provocado polémica, lo que encendió alertas internacionales sobre el uso indebido de herramientas de IA como Grok, el chatbot integrado a la plataforma.

Resaltó el caso personal de Julie Yukari, la artista musical radicada en Río de Janeiro de 31 años, que compartió en X una fotografía tomada por su prometido momentos antes de la medianoche de Año Nuevo.

En la imagen aparece recostada en la cama con un vestido rojo junto a su gato negro, Nori. Al día siguiente, entre cientos de interacciones, la mujer comenzó a recibir notificaciones de usuarios que pedían a Grok que modificara la imagen para “desnudarla” digitalmente.

Aunque inicialmente pensó que el sistema no respondería a ese tipo de solicitudes, imágenes alteradas de ella comenzaron a circular en la plataforma, según relató a la agencia Reuters. “Fui ingenua”, declaró.

Casos similares y señalamientos en contra de Grok

La experiencia de Yukari no es aislada. De acuerdo con un análisis de Reuters, se han detectado numerosos casos en los que Grok generó imágenes sexualizadas de personas reales, incluidas mujeres jóvenes y, en algunos reportes, menores de edad.

La agencia identificó situaciones en las que usuarios solicitaban abiertamente a Grok modificar fotografías para que las personas aparecieran con ropa mínima o inexistente. En una revisión de 10 minutos de solicitudes públicas, Reuters contabilizó 102 intentos para alterar imágenes con ese fin.

X no respondió a solicitudes de comentarios sobre los hallazgos. En una declaración previa relacionada con reportes similares, xAI, empresa propietaria de Grok, rechazó las acusaciones.

Reacciones de gobiernos y reguladores

La difusión de este tipo de contenido provocó reacciones internacionales. En Francia, ministros denunciaron a X ante la fiscalía y organismos reguladores, al considerar que el material es “sexual y sexista” y manifiestamente ilegal.

Reino Unido instó el martes a X, la red social de Elon Musk, a abordar urgentemente la proliferación de imágenes íntimas “deepfake” en su red, uniéndose a la protesta europea por el aumento de material no consentido en la plataforma.

La ministra de Tecnología, Liz Kendall, afirmó en un comunicado que el contenido es “absolutamente atroz” y pidió a la plataforma que actuara con rapidez.

“Nadie debería tener que pasar por la terrible experiencia de ver ‘deepfakes’ íntimos de sí mismo en línea”, dijo Kendall.

“No podemos permitir ni permitiremos la proliferación de estas imágenes denigrantes y degradantes, que se dirigen desproporcionadamente a mujeres y niñas”, agregó.

En India, el Ministerio de Tecnologías de la Información envió una carta a la unidad local de X señalando que la plataforma no evitó el uso indebido de Grok para generar y difundir contenido obsceno y sexualmente explícito.

En Estados Unidos, la Comisión Federal de Comunicaciones no respondió a solicitudes de comentarios, mientras que la Comisión Federal de Comercio se negó a pronunciarse.

Expertos advierten riesgos de la IA generativa

Especialistas consultados por Reuters señalaron que este escenario era previsible.

Recordaron que programas de “desnudez digital” existen desde hace años, pero que la integración directa de estas funciones en redes sociales reduce las barreras de acceso.

Tyler Johnston, director ejecutivo de “The Midas Project”, afirmó que desde 2024 advirtieron que las herramientas de generación de imágenes de xAI podían convertirse en un mecanismo de “deepfakes” no consensuados.

Por su parte, Dani Pinter, del Centro Nacional sobre Explotación Sexual, sostuvo que la empresa debió bloquear solicitudes de contenido ilegal y retirar material abusivo de sus sistemas de entrenamiento.

Impacto personal por imágenes generadas con Grok

Yukari señaló que, tras intentar denunciar la situación, más usuarios solicitaron a Grok generar imágenes aún más explícitas con su apariencia.

“El Año Nuevo comenzó conmigo queriendo esconderme y sintiendo vergüenza por un cuerpo que ni siquiera es mío, porque fue generado por una IA”, declaró.

El caso reavivó el debate global sobre regulación, responsabilidad y límites éticos en el uso de la inteligencia artificial generativa dentro de plataformas digitales.

Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.