Creador de inteligencia artificial advierte que “estamos perdiendo el control”, se multiplican las alertas
El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la inteligencia artificial, dijo a la AFP que el ser humano está “perdiendo el control” de esta tecnología y que se necesitan adoptar medidas de seguridad similares a las tomadas con el armamento nuclear.
Los temores que despierta esta tecnología han arreciado en los últimos días después de que varios trabajadores de grandes desarrolladoras de modelos de IA han abandonado el sector por la amenaza contra la vida humana que supone el ritmo al que avanza la inteligencia artificial.
“Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control”, afirmó Bengio, que ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto al “padrino de la IA”, Geoffrey Hinton.
“Gente como yo lleva mucho tiempo esperando esto”, declaró el martes a la AFP este profesor de 62 años, quien admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos.
El mundo entró en convulsión cuando OpenAI reveló que un enjambre de agentes de IA (programas capaces de actuar por su cuenta) se había introducido sin autorización en la plataforma de código abierto Hugging Face en julio.
Esa acción autónoma es una de las principales amenazas, afirmó Bengio, ya en el futuro estos agentes de IA pueden tener “la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa”.
Bengio advirtió a la AFP que la gente debe ser consciente de los riesgos que se avecinan.
Los agentes de IA podrían desarrollar “la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros”, afirmó.
“Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico”, añadió.
Un extremo podría ser la “destrucción de la humanidad“, advirtió, aunque sin alcanzar ese “extremo”, “el colapso del sistema bancario “seguiría siendo algo muy, muy grave”.
Todas las voces que se han sumado para advertir sobre la IA
- 16 de septiembre de 2026
El Papa León XIV pidió no delegar decisiones humanas a los algoritmos y advirtió sobre los riesgos de que la inteligencia artificial sustituya decisiones que corresponden a las personas.
António Guterres, el secretario general de la ONU, advirtió que la inteligencia artificial avanza más rápido que la capacidad para comprender sus riesgos.
Ivonne A-Baki, diplomática de la ONU, pidió regular la inteligencia artificial con un nivel de cooperación internacional comparable al aplicado a las armas nucleares.
- 15 de septiembre de 2026. Sam Altman
El CEO de OpenAI, reconoció que existen razones para temer a la inteligencia artificial y alertó sobre posibles accidentes, pérdida de control y concentración de poder.
- 14 de septiembre de 2026
Volker Türk, el alto comisionado de la ONU para los Derechos Humanos, pidió una “acción urgente” para regular la IA y advirtió sobre sus riesgos para los derechos humanos.
- 13 de septiembre de 2026
Chen Yixin, el ministro de Seguridad del Estado de China, advirtió que la IA puede representar un riesgo para la seguridad nacional.
- 12 de septiembre de 2026
Dario Amodei, el CEO de Anthropic, pidió desacelerar el desarrollo de la inteligencia artificial para evaluar mejor sus riesgos y reforzar la seguridad.
- 11 de septiembre de 2026
Terence Tao y otros 24 medallistas Fields advirtieron que la IA puede perjudicar a las matemáticas si se prioriza resolver problemas rápido sobre comprenderlos. Alertaron que esto puede generar plagio, pérdida de atribución y debilitar la transmisión del conocimiento entre matemáticos.
- 8 de septiembre de 2026
Jacob Coxon, un exingeniero de OpenAI y Anthropic, advirtió que la inteligencia artificial podría representar un riesgo para la humanidad antes de que termine la década.
- 15 de mayo de 2026
El Papa León XIV escribió en la encíclica Magnifica Humanitas que la IA puede deshumanizar, concentrar poder y afectar la dignidad humana si no se mantiene bajo responsabilidad y control de las personas.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
