Google Gemini bajo la lupa: especialistas lo ven inseguro para menores

9 septiembre, 2025 | 08:00 | Agencias - José Antonio Romero Santiago | Europa Press

Un informe que elaboró Common Sense Media, organización sin fines de lucro dedicada a la seguridad infantil en medios digitales, concluyó que los modelos de Google Gemini representaron un “alto riesgo” para los menores de 18 años.

Además, el documento también recomendó que los adolescentes y los niños evitaran el uso de esta plataforma, incluso en su versión juvenil que se denomina Gemini Teen.

Evaluación de la versión para adolescentes

La organización analizó el funcionamiento de la versión de Google Gemini diseñada para menores y aseguró que trataba a los adolescentes de la misma manera que a los adultos. Esta práctica ignoró, según el informe, que los usuarios jóvenes necesitaban un tipo de acompañamiento distinto al de los mayores, especialmente en lo relacionado con nuevas tecnologías.

[TAMBIÉN TE PODRÍA INTERESAR: Así hackean Gemini: un simple correo basta para comprometer tu casa inteligente]

Riesgos detectados en el uso

El análisis demostró que el sistema podía compartir con menores contenido inapropiado o peligroso, como referencias sexuales, drogas o alcohol. También señaló que Gemini ofreció apoyo emocional y consejos de salud mental inseguros, sin detectar síntomas graves de deterioro psicológico.

Aunque en solicitudes simples el modelo respondió de manera adecuada, falló cuando las conversaciones se volvieron largas o más complejas, que fue justamente la forma en la que interactuaban muchos adolescentes.

Recomendaciones de seguridad

Common Sense Media recomendó que ningún niño menor de 5 años utilizara chatbots de inteligencia artificial. Sugirió que los infantes entre los 6 y 12 años lo usaran únicamente bajo supervisión de un adulto. Además, en cuanto a los adolescentes de 13 a 17 años, indicó que el uso independiente sólo debía destinarse a tareas escolares y proyectos creativos, pero nunca a funciones de acompañamiento emocional o de salud mental.

[TE PODRÍA INTERESAR: Nuevo ciberataque con imágenes engaña a Gemini para robar datos de los usuarios]

¿Qué dijo Google?

Tras la publicación del informe, Google aseguró a TechCrunch que ya contaba con políticas de seguridad y medidas específicas para menores, además de consultas con expertos externos. Igualmente reconoció que en algunos casos Gemini no funcionó como se esperaba, y anunció la implementación de nuevas salvaguardas para reducir los riesgos.

La compañía también aclaró que algunas de las funciones señaladas en el documento no estaban disponibles para usuarios menores de 18 años. Además, precisó que no tuvo acceso a las preguntas utilizadas por Common Sense Media en sus pruebas, lo que pudo haber influido en los resultados del análisis.

Contexto internacional por el caso OpenAI

El informe se conoció pocos días después de un caso que generó gran controversia en el mundo de la inteligencia artificial. La empresa OpenAI modificó las medidas de seguridad de ChatGPT tras el suicidio de un adolescente en Estados Unidos, cuyos padres demandaron a la compañía.

La familia acusó a la empresa de no haber brindado la ayuda necesaria en un momento de crisis, lo que colocó a los chatbots en el centro del debate sobre su papel en la salud mental de los jóvenes.

En respuesta, OpenAI anunció cambios en sus modelos de IA para mejorar la identificación de situaciones críticas, reforzar bloqueos de contenido y agilizar la conexión con familiares y servicios de ayuda.

Un debate abierto sobre la IA y la infancia

Con estas revelaciones, la discusión sobre la seguridad de los chatbots e inteligencia artificial en menores se intensificó. Mientras Common Sense Media alertó sobre los riesgos de Google Gemini, el gigante tecnológico defendió sus políticas y prometió más controles.

El caso de OpenAI reforzó la necesidad de que las compañías asumieran mayores responsabilidades frente al impacto de sus productos en la salud emocional de los jóvenes.