Secretaría de las Mujeres condena uso de Grok en casos de violencia sexual y exige soluciones a X

La Secretaría de las Mujeres condenó este martes el uso de Grok, inteligencia artificial (IA) vinculada a la red social X (antes Twitter), para “violentar sexualmente a las mujeres” a través de imágenes manipuladas y difundidas sin su consentimiento.

La dependencia, dirigida por Citlalli Hernández Mora, hizo un llamado a las personas responsables de esta plataforma para evitar que se convierta en un espacio en el que se reproduzca la violencia de género.

“Esto constituye una violación a la intimidad y una forma de violencia en razón de género que no debe ser tolerada”.

Secretaría de las Mujeres

Secretaría de las Mujeres se lanza contra Grok

Citlalli Hernández, titular de la dependencia, reconoció que, en semanas recientes, usuarios de X han utilizado a Grok para generar imágenes de mujeres semidesnudas o de carácter sexual mediante IA y divulgarlas posteriormente sin consentimiento de las usuarias.

La funcionaria recordó que esta conducta se encuentra tipificada en los marcos legales de México bajo el conjunto de reformas conocidas como Ley Olimpia.

“Se sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres”.

Citlalli Hernández, titular de la Secretaría de las Mujeres

Por ello, consideró inadmisible que herramientas tecnológicas como la IA Grok carezcan de filtros de seguridad suficientes, y permitan que se cometa violencia sexual digital.

Secretaría de las Mujeres reconoce acercamiento con plataformas digitales

Citlalli Hernández reconoció que, en conjunto con la Agencia de Transformación Digital y Telecomunicaciones (ATDT), se ha tenido acercamiento con diversas plataformas digitales a propósito de este tema.

“Partimos de la convicción de que el entorno digital no debe ser una extensión de la violencia machista ni un refugio para el acoso sexual”, señaló.

Según su perspectiva, las plataformas (cuyo nombre no fue precisado) han mostrado interés en alinear sus normas de convivencia con apego a los derechos humanos.

Sin embargo, recalcó su preocupación ante la imposibilidad de establecer una reunión con X, debido a que no cuentan con oficinas en México.

“Consideramos que la ausencia de sedes locales no exime a ninguna empresa tecnológica de su responsabilidad ética y legal para con sus usuarias en territorio mexicano”, remató.

Piden diálogo con X por uso inadecuado de Grok

La titular de la Secretaría de las Mujeres enfatizó la disposición para entablar un diálogo respetuoso con la plataforma X, con el fin de trabajar para que sus filtros de seguridad sean suficientes e impidan que se cometa violencia sexual digital.

Es primordial que las plataformas digitales, y todos los actores de la sociedad, asuman un papel activo en el cambio cultural para lograr una convivencia igualitaria y respetuosa entre mujeres y hombres.

“Desde la Secretaría de las Mujeres seguimos trabajando para que la justicia y la perspectiva de género alcancen todos los ámbitos, incluido el digital”, finalizó el comunicado de la dependencia.

El mundo también reacciona a imágenes creadas con Grok

La difusión de este tipo de contenido por parte de Grok provocó reacciones internacionales. En Francia, ministros denunciaron a X ante la Fiscalía y organismos reguladores, al considerar que el material es “sexual y sexista” y manifiestamente ilegal.

Reino Unido instó el martes a X, la red social de Elon Musk, a abordar urgentemente la proliferación de imágenes íntimas “deepfake” en su red, uniéndose a la protesta europea por el aumento de material no consentido en la plataforma.

La ministra de Tecnología, Liz Kendall, afirmó en un comunicado que el contenido es “absolutamente atroz” y pidió a la plataforma que actuara con rapidez.

“Nadie debería tener que pasar por la terrible experiencia de ver ‘deepfakes’ íntimos de sí mismo en línea”, dijo Kendall.

“No podemos permitir ni permitiremos la proliferación de estas imágenes denigrantes y degradantes, que se dirigen desproporcionadamente a mujeres y niñas”, agregó.

En India, el Ministerio de Tecnologías de la Información envió una carta a la unidad local de X señalando que la plataforma no evitó el uso indebido de Grok para generar y difundir contenido obsceno y sexualmente explícito.

En Estados Unidos, la Comisión Federal de Comunicaciones no respondió a solicitudes de comentarios, mientras que la Comisión Federal de Comercio se negó a pronunciarse.

Expertos advierten riesgos de la IA generativa

Especialistas consultados por Reuters señalaron que este escenario era previsible.

Recordaron que programas de “desnudez digital” existen desde hace años, pero que la integración directa de estas funciones en redes sociales reduce las barreras de acceso.

Tyler Johnston, director ejecutivo de “The Midas Project”, afirmó que desde 2024 advirtieron que las herramientas de generación de imágenes de xAI podían convertirse en un mecanismo de “deepfakes” no consensuados.

Por su parte, Dani Pinter, del Centro Nacional sobre Explotación Sexual, sostuvo que la empresa debió bloquear solicitudes de contenido ilegal y retirar material abusivo de sus sistemas de entrenamiento.

Impacto personal por imágenes generadas con Grok

Yukari señaló que, tras intentar denunciar la situación, más usuarios solicitaron a Grok generar imágenes aún más explícitas con su apariencia.

“El Año Nuevo comenzó conmigo queriendo esconderme y sintiendo vergüenza por un cuerpo que ni siquiera es mío, porque fue generado por una IA”, declaró.

El caso reavivó el debate global sobre regulación, responsabilidad y límites éticos en el uso de la inteligencia artificial generativa dentro de plataformas digitales.

¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.