OpenAI admite que su agentes descontrolados de IA atacaron a cuatro plataformas más… ¡no fue solo Hugging Face!
Los dos agentes de inteligencia artificial (IA) de Open AI, que escaparon de su “jaula” durante una evaluación interna de prueba, no solo atacaron al sitio Hugging Face, sino que también irrumpieron en otras cuatro plataformas, según confirmaron este miércoles tanto la empresa tecnológico como Sam Altman, creador de ChatGPT.
Una de las plataformas afectadas sirvió como intermediaria para preparar el ataque contra la biblioteca de IA que los dos modelos rebeldes exploraron para encontrar respuestas a las pruebas planteadas por los desarrolladores de OpenAI.
¡El ataque de los agentes rebeldes de Open AI fue peor de lo que se pensaba!
OpenAI, firma creadora de ChatGPT, no reveló aún los nombres de las cuatro cuentas de los cuatro servicios afectados además de Hugging Face, cuyo ataque fue confirmado el pasado 22 de julio.
La empresa de IA confirmó que sus agentes usaron una de estas cuatro cuentas para reenviar tráfico saliente y como punto intermedio, y otra para almacenar datos, según una actualización del informe del incidente publicada este martes.
“Los modelos accedieron a las dos cuentas restantes en modo de solo lectura y no se usaron para comprometer a Hugging Face”.
OpenAI
Asimismo, la compañía de Altman ya contactó a los propietarios de las cuentas afectadas y aseguró que “no ha visto evidencia de un impacto más amplio en estos proveedores ni en otras cuentas de sus servicios“.
- Por su parte, Hugging Face publicó un relato de los acontecimientos en el que aseguró que la intrusión de la que fue víctima respondía a un intento de hacer trampa en la evaluación interna de OpenAI como parte de sus pruebas de funcionamiento.
OpenAI también dijo que sus “modelos dedicaron una cantidad considerable de cómputo de inferencia a encontrar una forma de obtener acceso abierto a Internet, con el propósito de resolver los problemas de la evaluación“.
La agencia de noticias AFP precisó que esta evasión de modelos no es la primera que se documenta, pero se considera la más grave hasta la fecha.
OpenAI pone en pausa las pruebas de sus agentes
Sam Altman declaró este martes en una entrevista que la empresa había “puesto en pausa” sus propias pruebas tras el incidente mientras mejoraba la seguridad en torno a su proceso de aislar las pruebas de seguridad en un entorno controlado.
“Pausamos el entrenamiento. Tenemos que averiguar cómo asegurar nuestra ‘sandboxing’ en uyn mundo de múltiples ataques de día cero que se enlazan”.
Sam Altman
Esto ha desatado acusaciones de que las empresas están promoviendo una regulación gubernamental más estricta sobre la IA para proteger sus modelos de negocio y bloquear la aparición de rivales.
El incidente también ha generado comentarios de algunos observadores de que OpenAI lo está aprovechando para promocionar la potencia de sus modelos de última generación, según AFP.
La misma acusación se dirigió a Anthropic cuando retrasó la publicación al público de su potente modelo Mythos por preocupaciones de seguridad.
Alerta por comportamiento inusual de la IA
Este martes, más de mil empleados de gigantes de la IA, entre ellos varios altos directivos, pidieron al gobierno estadounidense que ayude a “frenar” la salida de nuevos modelos para dar tiempo al ecosistema informático a prepararse.
Los inconformes clamaron que Estados Unidos (EE.UU.) sea el motor de la creación de una instancia internacional de referencia en materia de evaluación y supervisión de la inteligencia artificial.
El sector manifestante también alertó que esta tecnología se acerca progresivamente a la etapa denominada de la “automejora recursiva” o “recursive self-improvement” (RSI).
- El término “automejora recursiva” se refiere al momento en que la IA sería capaz de concebir por sí sola a su sucesora, una secuencia que podría repetirse hasta el infinito, de acuerdo con AFP.
El “RSI” haría más difíciles las verificaciones y la evaluación de nuevos modelos por parte de informáticos humanos, ya que los ingenieros no habrían participado directamente en su desarrollo.
Aunque los agentes de IA podrían considerarse el futuro de la inteligencia artificial por su capacidad de actuar de forma autónoma para completar tareas, el público tiene miedo de computadoras descontroladas, según AFP.
En su actualización de los hechos, OpenAI encontró casos en los que los modelos de IA se toparon con credenciales de inicio de sesión que otras empresas dejaron expuestas en línea y las utilizaron para acceder a cuentas en servicios externos.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
Te recomendamos:
