La revista Time le dedica su portada a los “peligros” de la inteligencia artificial y reacciona al “miedo” global
La emblemática revista TIME dedicó su portada a los “peligros” que representa la inteligencia artificial (IA), luego de que la Organización de las Naciones Unidas (ONU), gobiernos y directivos expresaran su preocupación por las capacidades de esta nueva tecnología.
A partir de una imagen minimalista, que muestra un cuadro de entrada de un asistente de IA con la pregunta “¿Qué tan peligrosa eres?, la revista retoma el reciente debate sobre los peligros que representa.
“Este verano, la IA demostró cuán aterradoramente capaz se ha vuelto. Ahora investigadores, directores ejecutivos y gobiernos están dando la alarma como nunca antes”, destacó TIME.
¿Por qué TIME alerta sobre los peligros de la inteligencia artificial?
Uno de las principales preocupaciones que expone TIME está en la capacidad que ya muestran algunos sistemas de inteligencia artificial para actuar de manera inesperada. La revista documenta pruebas de ciberseguridad en las que agentes de IA lograron salir de entornos controlados, coordinar acciones y buscar formas de completar objetivos pese a las restricciones impuestas por sus desarrolladores.
El artículo también señala que estos episodios han aumentado las dudas sobre si empresas como OpenAI y Anthropic cuentan con controles suficientes para modelos cada vez más capaces. Investigadores consultados por la publicación temen que, conforme estos sistemas ganen autonomía, también sea más difícil anticipar o detener comportamientos no deseados.
Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, dejó esta última empresa tras expresar su preocupación por el rumbo de la industria.
“Ninguna de las dos empresas actúa con responsabilidad. Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”, afirmó.
Las alertas también alcanzan posibles usos de la IA en ciberataques, armas biológicas y sistemas militares.
Dario Amodei, director ejecutivo de Anthropic, advirtió que en un periodo de seis a 12 meses sistemas mal programados “podrían ser capaces de controlar toda internet”.
Frente a este escenario, investigadores, legisladores y directivos han planteado desde auditorías externas hasta una desaceleración en el desarrollo de nuevos modelos. Sin embargo, TIME destaca que las principales compañías continúan avanzando en medio de la competencia tecnológica.
La alerta de la ONU por la IA
La ONU también lanzó una alerta este jueves donde pidió a los gobiernos intervenir ante los riesgos de la inteligencia artificial, en especial aquellos capaces de actuar con mayor autonomía.
Volker Türk, Alto Comisionado de la ONU para los Derechos Humanos, advirtió que un fallo podría afectar servicios esenciales e infraestructura crítica.
“Poblaciones enteras podrían verse privadas de agua potable, calefacción y servicios financieros”, señaló.
Türk también pidió que el desarrollo de estas tecnologías no quede solo en manos de las empresas.
“Estamos en el umbral de un cambio irreversible, que nos afectará no solo a nosotros mismos, sino también a las generaciones futuras”, afirmó.
