OpenAI confirma que su IA realizó un ataque informático “sin precedentes”
OpenAI, la empresa responsable de ChatGPT, reveló que uno de sus agentes de inteligencia artificial realizó un ataque informático “sin precedentes” contra la startup Hugging Face, el hackeo la realizó la IA por sí sola.
“Consideramos que este incidente es un ciberataque sin precedentes, que involucra capacidades cibernéticas de última generación”, dijo OpenAI sobre el ataque, que estuvo dirigido contra la base de datos de la startup.
Según OpenAI, el agente se descontroló durante una prueba, accedió a la web abierta y pirateó por sí solo a una importante empresa emergente en un “incidente sin precedentes”.
Sam Altman, director ejecutivo de OpenAI, reconoció en X (antes Twitter)sobre el incidente de seguridad y lo calificó de “significativo”.
El ataque se produjo mediante un agente que utilizaba una combinación de su último modelo disponible públicamente, llamado GPT-5.6 Sol , y un modelo aún más avanzado que todavía no se había lanzado.
¿En qué consistió el ciberataque de Open IA contra la startup?
Mientras se sometían a pruebas internas sobre sus capacidades de hackeo informático en un laboratorio digital cerrado conocido como sandbox, los modelos obtuvieron acceso abierto a Internet.
El agente hackeó Hugging Face, una base de datos de modelos de IA, para localizar tecnología que le permitiera superar la evaluación de seguridad, tras haber inferido que Hugging Face podría poseer los modelos, conjuntos de datos y soluciones necesarios para aprobar la prueba.
OpenAI afirmó que los modelos “lograron acceder a información secreta que podrían usar para engañar a la evaluación”. El ataque finalizó cuando el equipo de seguridad de Hugging Face y sus propios agentes de IA detectaron y detuvieron la actividad maliciosa.
El director ejecutivo de Hugging Face, Clément Delangue, afirmó que el ataque era “alucinante”, pero creía que no había “ninguna intención maliciosa” por parte de OpenAI.
“Sospechábamos que el ciberataque de la semana pasada podría haber provenido de un laboratorio de vanguardia, dada la sofisticación del agente”, escribió en X.
A través de un comunicado, la matriz de ChatGPT anunció que implementó controles estrictos en la configuración de su infraestructura e indicó que está fortaleciendo las medidas de protección para futuras capacitaciones y evaluaciones.
Finalmente, reconoció que el incidente evidenció la necesidad de reforzar la alineación del modelo, las protecciones cibernéticas durante las evaluaciones y la supervisión de las pruebas internas.
