La IA prende más alarmas: ONU y director de ChatGPT confirman riesgos
El secretario general de la Organización de las Naciones Unidas, António Guterres, advirtió sobre los peligros de la inteligencia artificial (IA) este miércoles, luego de que Sam Altman, director de OpenAI, también compartiera que el mundo tiene razones para temerle.
Guterres explicó que “la IA no se detiene en las fronteras y tampoco sus riesgos”. Y agregó que “un número creciente de quienes la desarrollan están dando la voz de alarma, advirtiendo que el avance se está produciendo más rápido que nuestra comprensión”.
Su mensaje llega después de que la misma organización emitiera un comunicado en el que expresó el potencial riesgo que conlleva esta tecnología.
Por su parte, Altman confirmó que “el mundo hace bien en temer”, pero aclaró que el camino que se debe recorrer con “pragmatismo y firmeza” para lograr que “el mundo confíe en que tomaremos decisiones fiables y coherentes a lo largo de este proceso”.
Las voces de Altman y la ONU se suman a las preocupaciones que han externado los gobiernos de China y la Unión Europea sobre los avances de esta tecnología, que incluso, provocaron la renuncia de expertos como Jacob Coxon, ingeniero de Anthropic, que denunció recientemente que la IA podría terminar con la humanidad antes de que termine la década.
“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, dijo Coxon en redes sociales.
Así ha sido la cronología de las alertas mundiales por IA
Además de Guterres, Ivonne A-Baki, diplomática de la ONU, también llamó este miércoles a regular la IA como las armas nucleares.
“Estamos casi al borde de una Tercera Guerra Mundial (…) y es una más peligrosa. Esta vez no va a ser solo el peligro nuclear, sino también la IA”, declaró a la AFP A-Baki.
También destacó que un acuerdo sobre el futuro de la IA entre Washington y Pekín sería esencial para proteger a la humanidad.
“El presidente Trump y el presidente Xi Jinping (…) no deberían competir. Deberían cooperar”, sentenció.
ONU no quita su preocupación por la IA
El 14 de septiembre, Volker Türk, alto comisionado de la ONU para los Derechos Humanos, pidió una “acción urgente” para regular la IA debido a los riesgos sin precedentes que plantean los sistemas más avanzados.
“Estamos al borde de un cambio irreversible, que nos afecta no solo a nosotros, sino a las generaciones futuras de la humanidad”, dijo Türk en un comunicado.
El comisionado instó a los Estados miembros y a las empresas responsables a movilizarse urgentemente en el marco de instancias multilaterales y añadió: *”Todos los derechos humanos están amenazados por esta tecnología, incluido el “derecho a la vida”.
Sam Altman admitió razones para temer a la IA
Un día antes, el director de la casa matriz de ChatGPT afirmó que el mundo tiene razones suficientes para temer que algunas empresas desarrolladoras de IA adquieran demasiado poder; sin embargo, llamó a tener confianza en la compañía que él mismo dirige.
Altman dio estos comentarios durante una conferencia de Salesforce’s Dreamforce, donde admitió percibir un temor por la posibilidad de que las compañías desarrolladoras puedan ejercer una influencia indebida en la economía o imponer una determinada visión del mundo.
El directivo también señaló que las empresas enfrentan la posibilidad de perder el control, de que ocurra un accidente o surja algún problema grave, aunque reconoció que esta tecnología ya es más capaz e inteligente que los seres humanos y aseguró que esa es la razón por la que el público en general habla de probabilidades de catástrofe concretas.
Agregó que los modelos de IA avanzaron tanto y tan rápido que las compañías deben abordar la alineación, supervisión y seguridad con un nuevo nivel de rigor; además, se reconoció dispuesto a ajustar el ritmo de desarrollo.
“Tenemos que estar dispuestos a ajustar el ritmo de desarrollo de capacidades para garantizar que la alineación, la seguridad y la supervisión vayan siempre por delante de dichas capacidades”, señaló.
China advirtió sobre el riesgo de seguridad debido a la IA
El pasado sábado 12 de septiembre, Chen Yixin, ministro de Seguridad del Estado de China, advirtió que la IA pone en peligro la seguridad nacional del país, ya que potencias extranjeras podrían utilizarla para amenazar el orden social.
Fuerzas hostiles están abusando de las tecnologías de inteligencia artificial generativa para “fabricar rumores políticos y difundir información perjudicial”, escribió Yixin en un artículo publicado en línea.
“Lanzan guerras de opinión pública y guerras cognitivas contra China, amenazando directamente nuestra seguridad política, institucional e ideológica”, afirmó.
El señalamiento surgió en el marco de una reunión que el presidente de China, Xi Jinping, sostendrá con Donald Trump en Washington, EE.UU.
Anthropic manifestó su preocupación
Dario Amodei, director ejecutivo de Anthropic, se pronunció ese mismo día a favor de una desaceleración de la IA para permitir una mejor evaluación de los riesgos derivados de las nuevas capacidades de esta tecnología.
El empresario abogó por “desarrollar la IA a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios”.
Y aclaró que eso no significa “detener la capacitación en modelos o el progreso técnico, sino garantizar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen”.
Amodei recibió apoyo público de Sam Altman, director ejecutivo de OpenAI; Elon Musk, director de xAI; Demis Hassabis, presidente de Google DeepMind, y Satya Nadella, director ejecutivo de Microsoft.
Especialista advirtió que la IA podría “acabar con nosotros antes de 2030“
Jacob Coxon, ingeniero británico que trabajó en OpenAI y Anthropic, aseguró el pasado 8 de septiembre que algunas de las personas que desarrollan inteligencia artificial creen seriamente que esta tecnología podría acabar con la humanidad antes de que termine esta década.
“Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década…. Ninguna otra actividad humana representa este nivel de peligro”.
Jacob Coxon, ingeniero británico
El investigador hizo la advertencia tras anunciar su renuncia a Anthropic, compañía a la que había llegado después de trabajar en OpenAI.
Coxon sentenció que ninguna de las dos empresas está actuando responsablemente.
“Están corriendo directamente hacia una superinteligencia que se auto-mejora y están jugando con nuestras vidas”.
Jacob Coxon, ingeniero británico
Matemáticos también alertaron sobre los peligros de la IA
Los riesgos asociados con la inteligencia artificial también han sido advertidos por especialistas de otras disciplinas. Un ejemplo es una carta firmada por 25 matemáticos galardonados con la Medalla Fields, uno de los reconocimientos más prestigiosos y considerado el equivalente al Premio Nobel en esta disciplina.
Los matemáticos advirtieron en una carta sobre un posible “efecto destructivo” en las investigaciones de esta materia.
Esta alerta saltó luego de que OpenAI anunciara que uno de sus modelos de IA había resuelto, en menos de cuatro días, una ecuación matemática con más de un siglo de antigüedad.
Aunque los investigadores reconocieron que la IA “ofrece el potencial de reforzar y acelerar el estudio y la comprensión de las matemáticas”, señalaron que las matemáticas, como profesión, tendrán que adaptarse a estos cambios y advirtieron que serán las decisiones de los humanos que controlan esta tecnología las que determinarán “en gran medida” si resulta beneficiosa o si tiene un efecto destructivo.
Los llamados a una mejor regulación de la IA se multiplicaron en las últimas semanas tras una serie de incidentes y de advertencias de varios directores de empresas del sector. El debate sobre la IA se concentra cada vez más en cómo mantener el desarrollo de sus capacidades bajo supervisión y seguridad, mientras se busca aprovechar sus posibles beneficios sin perder de vista los riesgos.
Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
