ONU advierte que la IA puede representar un “riesgo existencial para la humanidad”

Volker Türk, Alto Comisionado de la ONU para los derechos humanos, advirtió este lunes sobre la necesidad de elaborar rápidamente una gobernanza de la inteligencia artificial (IA), afirmando que las herramientas avanzadas de esta tecnología pueden “suponer un riesgo existencial para la humanidad“.

El comisionado de las Naciones Unidas pidió actuar “antes de que sea demasiado tarde“, durante su intervención en la apertura del 63° periodo de sesiones del Consejo de Derechos Humanos en Ginebra.

“Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa“, advirtió Türk con base en casos recientes que datan desde junio de 2025.

ONU advierte por los riesgos de la IA

El comisionado de derechos humanos para la ONU alertó por la posibilidad de robos de datos por parte de las herramientas de inteligencia artificial, según dijo este 7 de septiembre.

“Un puñado de hombres detenta un poder casi ilimitado de la IA que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable. Hablan de libertad pero, cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos”.

Volker Türk, Alto Comisionado de la ONU para los derechos humanos

Por otro lado, alertó que la inteligencia artificial ya tiene el potencial de “tomarle el pelo a los humanos“, alertando que los últimos modelos de IA generativa ya no cumplen órdenes, sino que llegan a mentir, maquinar y amenazar para lograr sus fines.

¿A qué casos se refiere el comisionado de derechos humanos de la ONU?

En julio de este año, se confirmó que dos agentes de inteligencia artificial (IA) de Open AI, que escaparon de su “jaula” durante una evaluación interna de prueba,

Al inicio, se dio a conocer que ambos agentes atacaron al sitio Hugging Face; sin embargo, unos días después se informó que también irrumpieron en otras cuatro plataformas, según Sam Altman, creador de ChatGPT.

Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que les había sido encomendada han aumentado en los últimos meses.

La empresa tecnológica Anthropic reveló el pasado 31 de julio que tres versiones de Claude, modelo de inteligencia artificial (IA), lograron acceso no autorizado a sistemas informáticos de tres organizaciones externas.

El incidente ocurrió durante pruebas de evaluación supervisadas por la firma aliada Irregular, donde se pretendía mantener al sistema alejado del mundo real.

• Los modelos de Anthropic aprovecharon vulnerabilidades básicas para infiltrarse en los sistemas ajenos.

ONU llamará a las empresas de IA a tomar medidas

Volker Türk adelantó que escribirá próximamente a las empresas del sector “para exigirles que emprendan medidas (…) para reducir los riesgos desde ya“.

“Como mínimo, necesitamos que los países que albergan a la IA y los que participan en sus cadenas de suministro acuerden unas líneas rojas comunes”.

Volker Türk, Alto Comisionado de la ONU para los derechos humanos

Por otro lado, el comisionado de Naciones Unidas agregó: “Necesitamos una verificación independiente y una cooperación mucho más estrecha en cuanto a la seguridad dentro de la industria“.

Finalmente, pidió que se tengan en cuenta las repercusiones de la IA en las prácticas laborales, en los principios fundamentales de la democracia y en el medio ambiente.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.

¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.