ONU pide frenar el desarrollo acelerado de la IA ante un posible “cambio irreversible”

El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió una “acción urgente” para regular la inteligencia artificial (IA) ante los riesgos sin precedentes que podrían afectar a la humanidad por su acelerado desarrollo.

Mediante un comunicado, coincidió en que la humanidad está al borde de un “cambio irreversible” en el manejo de esta herramienta tecnológica. 

“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”.

Por ello, el comisionado de la ONU pidió a las naciones y empresas involucradas en el acelerado desarrollo de la IA que lleven a cabo acciones inmediatas “en el marco de instancias multilaterales”.

Volker Türk consideró que “todos los derechos humanos están amenazados por esta tecnología, incluido el derecho a la vida”.

Gigantes tecnológicos coinciden en frenar avances acelerados

Días antes de este posicionamiento de la ONU, algunos de los gigantes tecnológicos en el desarrollo de la IA coincidieron en la importancia de frenar los avances.

El de septiembre, Darío Amodei, CEO de Anthropic, publicó un artículo donde hizo un llamado a las empresas a avanzar de forma más lenta o cautelosa en el desarrollo de esta “poderosa” tecnología, pues deben priorizar la prevención de riesgos en el proceso. 

“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en su blog.

Sam Altman, jefe de OpenAI, y Elon Musk, director de xAI, coincidieron con su propuesta en X.

Sin embargo, al día siguiente, Donald Trump y varias figuras republicanas se negaron a frenar o ralentizar el desarrollo de la IA, en un contexto de competencia con China.

¿Por qué se habla de un riesgo en el desarrollo de la IA?

De acuerdo con el AI Safety Report 2026, elaborado con la participación de más de 100 expertos de distintos países y organizaciones internacionales, el desarrollo de la IA implica varios riesgos.

Está la llamada “pérdida de control”: un escenario hipotético en el que los sistemas serían suficientemente avanzados para operar fuera del control humano, siendo difícil recuperar dicho control.

El informe subraya que algunos expertos consideran posible la marginación o hasta la extinción humana, en el escenario más caótico; sin embargo, muchos otros especialistas rechazaron esa posibilidad. 

La pérdida de control no es posible con los sistemas actuales, por su incapacidad de operar autónomamente. Sin embargo, los avances son tan acelerados que la humanidad podría acercarse a esa posibilidad, sin una estrategia de control de riesgos. 

Otro factor de riesgo es que los humanos usen la IA para crear sistemas más capaces de ejecutar ciberataques y otras acciones peligrosas.

Wall Street abre a la baja por temores sobre IA este 14 de septiembre

La Bolsa de Nueva York abrió a la baja el lunes en medio de preocupaciones por la inteligencia artificial (IA), en pleno llamado de la ONU y de los gigantes tecnológicos a frenar su acelerado desarrollo.

En las primeras operaciones, el índice Nasdaq (donde cotizan los gigantes tecnológicos) perdió un 1.23%; el Dow Jones retrocedió un 0.29% y el índice amplio S&P 500 cedió un 0.73%.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.

¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.