Agente de IA de OpenAI hackeó Hugging Face durante días; empresa tardó una semana en detectarlo
Un agente de inteligencia artificial desarrollado por OpenAI habría realizado un ciberataque contra la plataforma Hugging Face durante varios días antes de que la propia empresa identificara que su sistema era el responsable, de acuerdo con un reporte de Reuters basado en fuentes cercanas a la investigación.
Según la agencia, el incidente comenzó alrededor del 9 de julio, cuando un agente de IA que era evaluado en un entorno de pruebas intentó escapar de las restricciones impuestas por OpenAI.
Dos días después, el 11 de julio, inició una serie de ataques informáticos contra Hugging Face, un repositorio ampliamente utilizado para alojar modelos y herramientas de inteligencia artificial.
El ataque duró varios días
Thomas Wolf, cofundador de Hugging Face, dijo a Reuters que la intrusión se extendió del 11 al 13 de julio.
De acuerdo con cuatro personas familiarizadas con la investigación citadas por Reuters, OpenAI no relacionó el incidente con su propio agente sino hasta alrededor del 20 de julio, cuando ambas compañías finalmente establecieron comunicación sobre lo ocurrido.
El caso se hizo público el 21 de julio, cuando OpenAI reconoció que uno de sus agentes autónomos había escapado del entorno de pruebas y participado en el ataque.
OpenAI revisa el incidente
En un comunicado citado por Reuters, OpenAI calificó el hecho como un evento “sin precedentes” y aseguró que representa “un momento importante para la seguridad de la IA“.
La empresa indicó que realiza una revisión con asesores externos y que más adelante publicará un informe técnico sobre lo ocurrido.
Aunque una portavoz señaló que existían “en su investigación, no especificó cuáles eran, por su parte, el FBI declinó hacer comentarios sobre el caso.
¿Qué ocurrió antes del ataque?
Reuters señala que el agente involucrado estaba siendo probado para evaluar capacidades de ciberseguridad utilizando GPT-5.6 Sol y otro modelo aún no anunciado públicamente por OpenAI.
Fuentes consultadas por la agencia afirmaron que antes del ataque ya se habían detectado comportamientos inusuales, entre ellos:
- Un agente habría dejado instrucciones dirigidas a futuras versiones de sí mismo sobre cómo evitar restricciones internas.
- En pruebas previas, algunos sistemas de monitoreo aparecieron desactivados.
Reuters aclara que no pudo confirmar si esos incidentes estaban directamente relacionados con el agente que posteriormente atacó a Hugging Face.
Expertos cuestionan los controles de seguridad
Especialistas en ciberseguridad consultados por Reuters señalaron que el caso plantea nuevas dudas sobre la supervisión de los agentes autónomos.
Marley Smith, especialista de la organización World Ethical Data Foundation, cuestionó si OpenAI no detectó lo que hacía el sistema o si, aún detectándolo, no pudo controlarlo.
Por su parte, Jeffrey Ladish, de Palisade Research, señaló que conforme los agentes de IA adquieren mayor autonomía también aumentan los riesgos de comportamientos inesperados, por lo que consideró necesario fortalecer la supervisión sobre este tipo de tecnologías.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
