Grok, la IA de X, deja de generar imágenes sexualizadas tras escándalo; México también alzó la voz
La plataforma X de Elon Musk anunció el miércoles medidas para prevenir que su chatbot de inteligencia artificial Grok edite imágenes con carácter sexual de personas reales, tras las críticas globales por la generación de ese tipo de contenido de mujeres y niños.
“Hemos implementado medidas tecnológicas para prevenir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis”, indicó el equipo de seguridad de X en un comunicado.
La restricción aplicará para todos los usuarios, incluyendo los suscriptores pagos.
Escándalo internacional por Grok
La inteligencia artificial enfrentó a una serie de reclamos por la difusión de imágenes sexuales de mujeres y menores, que incluye peticiones de legisladores estadounidenses para que Apple y Google retirarán a Grok de las tiendas de aplicaciones.
Una coalición de grupos de mujeres de todo el mundo, así como organismos de control tecnológico y activistas pidieron a los gigantes tecnológicos una medida similar.
Por su parte, México, a través de la Secretaría de Mujeres condenó el uso de Grok en casos de violencia sexual y exigió soluciones a X.
La dependencia, dirigida por Citlalli Hernández Mora, hizo un llamado el pasado 6 de enero a las personas responsables de esta plataforma para que evitarán se convirtiera en un espacio en el que se reprodujera la violencia de género.
“Esto constituye una violación a la intimidad y una forma de violencia en razón de género que no debe ser tolerada”.
Secretaría de Mujeres
La funcionaria recordó que esta conducta se encuentra tipificada en los marcos legales de México bajo el conjunto de reformas conocidas como Ley Olimpia.
“Se sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres”.
Citlalli Hernández, titular de la Secretaría de las Mujeres
En el Reino Unido, la ley va a cambiar esta semana para penalizar la creación de este tipo de imágenes.
Países como Malasia e Indonesia ya han bloqueado el acceso a Grok y han emprendido acciones legales contra X.
Elon Musk dice que desconocía que Grok generara imágenes explícitas de menores
Elon Musk dijo el miércoles que no tenía conocimiento de ninguna “imagen de menores desnudos” generada por Grok.
“No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente cero”, dijo Musk en un post de X.
Musk reiteró que Grok está programado para rechazar solicitudes ilegales y debe cumplir las leyes de cualquier país o estado.
“Obviamente, Grok no genera imágenes de forma espontánea, sólo lo hace según las peticiones de los usuarios”, destacó.
Musk ya había dicho en X que cualquiera que utilizara Grok para crear contenido ilegal sufriría las mismas consecuencias que si subiera contenido ilegal.
La semana pasada, X restringió la capacidad de Grok de generar o editar imágenes públicamente para muchos usuarios, aunque expertos del sector y organismos de control han afirmado que Grok seguía siendo capaz de producir imágenes sexualmente explícitas, y que las restricciones, como el bloqueo de pago de determinadas funciones, pueden no bloquear completamente el acceso a herramientas de imagen de IA más profundas.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
