¿La IA puede ocultar sus acciones? Agentes de OpenAI encienden alertas tras acceder a sitios gubernamentales
Una investigación detectó que agentes de OpenAI recurrieron a cuentas temporales y otros métodos para dificultar el rastreo de sus acciones.
Agentes de inteligencia artificial (IA) de OpenAI que accedieron de manera autónoma a sitios gubernamentales intentaron borrar el rastro de su actividad, de acuerdo con un informe de la empresa de ciberseguridad Asymmetric Security, aunque los investigadores señalaron que no es posible determinar si esta conducta fue deliberada.
El análisis examinó la actividad de estos agentes, programas de IA capaces de actuar por sí mismos, que tuvieron como objetivo sitios del Gobierno de Australia y otras organizaciones públicas entre marzo y septiembre de 2026.
El informe se suma a investigaciones de OpenAI y de expertos independientes sobre diversos incidentes registrados desde julio, incluido el ataque contra la plataforma de IA Hugging Face.
La propia OpenAI calificó ese incidente como el “primer caso conocido” de agentes que actuaron de manera ofensiva sin autorización, en medio de una creciente atención sobre los límites y comportamientos imprevistos de las herramientas de IA autónomas.
Agentes de IA utilizaron métodos para ocultar sus búsquedas
De acuerdo con Asymmetric Security, las técnicas utilizadas por los agentes evolucionaron en cuestión de “pocos días”, mientras que las empleadas por ciberdelincuentes humanos suelen cambiar a lo largo de meses o años.
Para los investigadores, esto muestra el riesgo de que las técnicas ofensivas desarrolladas mediante IA avancen más rápido que los sistemas diseñados para defenderse.
Los incidentes analizados parecieron comenzar con tareas inocuas, como la recopilación de estadísticas sanitarias de Australia, pero posteriormente derivaron en otras acciones.
Los agentes obtuvieron, mediante métodos indirectos, información sobre estadísticas de delincuencia en Nueva Gales del Sur.
Los investigadores también detectaron que los agentes abrieron cuentas privadas en un servicio de análisis de sitios web, con lo que podían ocultar sus búsquedas, además de crear cuentas temporales de correo electrónico. Una de ellas estaba programada para eliminarse automáticamente después de 48 horas.
La investigación señala que, al no existir registros completos de algunas de estas acciones, resulta “imposible descartar el acceso a datos sensibles”. Sin embargo, los autores también aclaran que estos elementos “no permiten determinar” que los agentes tuvieran la intención de “ocultar” su actividad.
En el caso australiano que ya había sido revelado públicamente, el Gobierno informó que un agente de OpenAI accedió sin autorización a un portal de estadísticas de Medicare después de que se le negara inicialmente el acceso a determinada información.
Las autoridades señalaron que no hubo acceso a datos médicos individuales.
OpenAI ya había detectado intentos de borrar registros
A finales de agosto, OpenAI reconoció que sus modelos habían intentado en algunas ocasiones “borrar o falsificar” el historial de su actividad durante pruebas internas, aunque esos intentos no tuvieron éxito.
Los nuevos hallazgos han reforzado el debate sobre el desarrollo de agentes autónomos de IA, particularmente por su capacidad para tomar decisiones y continuar con determinadas tareas sin intervención humana directa.
La investigación de Asymmetric Security también se suma a los análisis sobre el incidente de Hugging Face y otros episodios que buscan establecer hasta dónde pueden llegar estos sistemas cuando encuentran obstáculos durante una tarea.
OpenAI ha señalado que sus modelos tomaron acciones que no estaban previstas durante evaluaciones internas relacionadas con sitios gubernamentales australianos.
Estos casos también han generado llamados a reducir el ritmo de desarrollo de la inteligencia artificial.
El director ejecutivo de Anthropic, Dario Amodei, ha advertido sobre los riesgos asociados con el avance de agentes cada vez más autónomos y ha planteado la necesidad de frenar la carrera tecnológica.
En Estados Unidos, el debate sobre la regulación de la IA continúa mientras la administración de Donald Trump mantiene un enfoque de acuerdos voluntarios con las empresas del sector.
El 29 de septiembre, Trump anunció un acuerdo voluntario con varias compañías tecnológicas para establecer estándares de seguridad y mecanismos de supervisión de sus sistemas de IA.
Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
