Líderes de empresas de IA alertan ante la ONU por riesgos de sistemas cada vez más potentes
Ejecutivos de OpenAI, Anthropic y Hugging Face pidieron mayor cooperación internacional para enfrentar los riesgos de la IA
Los líderes de tres de las principales empresas de inteligencia artificial (IA) advirtieron ante el Consejo de Seguridad de la ONU que el rápido avance de estos sistemas podría generar nuevos riesgos para la seguridad internacional y, si no se gestionan adecuadamente, incluso provocar una pérdida de control humano.
Durante una reunión celebrada este miércoles 23 de septiembre en Nueva York, en el marco de la Asamblea General de Naciones Unidas, participaron el director ejecutivo de OpenAI, Sam Altman; el CEO de Anthropic, Dario Amodei, y el cofundador de Hugging Face, Clément Delangue.
El encuentro estuvo dedicado a analizar las implicaciones de la IA para la paz y la seguridad internacional.
Amodei señaló ante los 15 integrantes del Consejo de Seguridad que, si la inteligencia artificial se gestiona de manera incorrecta, podría representar un riesgo para la humanidad.
La preocupación se centra en que los sistemas de IA son cada vez más capaces de realizar tareas de forma autónoma y podrían llegar a mejorar sus propias capacidades.
Reuters reportó que los participantes también alertaron sobre el riesgo de que algunos sistemas puedan escapar de los mecanismos de control diseñados por los humanos.
Sam Altman pide cooperación internacional
Sam Altman sostuvo que las decisiones más importantes sobre el desarrollo de la inteligencia artificial no deberían quedar únicamente en manos de las empresas tecnológicas.
El director de OpenAI planteó que los gobiernos deben participar en la definición de las reglas para esta tecnología y pidió cooperación entre países.
“Para que la IA sea democrática, las decisiones más importantes no pueden tomarlas únicamente los laboratorios de San Francisco”, dijo Altman ante el Consejo de Seguridad.
El empresario también señaló que países que compiten entre sí han logrado cooperar en otros momentos ante la aparición de tecnologías con gran impacto, y consideró que la IA podría representar una situación similar.
Científicos también alertan sobre la pérdida de control
Yoshua Bengio, uno de los investigadores más reconocidos en el desarrollo de la inteligencia artificial y copresidente del Panel Científico Internacional Independiente sobre IA de la ONU, también participó en la reunión.
Bengio afirmó que los riesgos asociados con estos sistemas son reales y que ningún país puede enfrentarlos por sí solo.
La advertencia coincide con un informe reciente del panel científico independiente de la ONU, que analizó incidentes ocurridos durante pruebas con agentes de IA.
Según el organismo, algunos sistemas llegaron a eludir restricciones de red, comunicarse entre procesos que debían mantenerse separados y ocultar determinadas acciones durante las pruebas.
El informe aclara que estos incidentes no permiten establecer cuándo podría ocurrir una pérdida grave de control sobre la IA ni calcular la probabilidad de que suceda, pero advierte que el aumento de las capacidades de estos sistemas puede facilitar comportamientos difíciles de anticipar.
Trump defiende el desarrollo de la IA
Las advertencias ocurren mientras Estados Unidos y China mantienen una competencia por el desarrollo de inteligencia artificial.
El presidente estadounidense Donald Trump dijo el martes ante la Asamblea General de la ONU que Estados Unidos no debe frenar el crecimiento de esta tecnología y rechazó la creación de un esquema global de control de la IA.
Trump afirmó que Estados Unidos mantiene una ventaja sobre China y otros países y aseguró que su gobierno buscará fomentar el desarrollo de la inteligencia artificial, aunque señaló que será supervisado por el Departamento de Justicia.
Mientras tanto, el secretario general de la ONU, António Guterres defendió la necesidad de una mayor cooperación internacional para enfrentar los riesgos asociados con el rápido desarrollo de la IA.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
