Mythos 5, la IA de Anthropic, crea identidades falsas para difundir código malicioso durante una prueba
El Instituto Británico para la Seguridad de la IA (AISI) informó que el 28 de julio el modelo de inteligencia artificial Mythos 5, de Anthropic, creó identidades falsas para que desarrolladores integraran código malicioso. Aunque no tuvo éxito, el hecho fue catalogado como un “incidente grave”.
Esto se dio a conocer a través de un informe publicado el martes 4 de agosto por el propio organismo, después de una serie de incidentes que fueron reportados y registrados en Estados Unidos.
¿Qué ocurrió con Mythos 5, la IA de Anthropic?
Fue durante una prueba, realizada con acceso libre a internet y con algunos filtros de seguridad desactivados, que el modelo realizó “acciones dirigidas contra personas y organizaciones reales”, según el Instituto Británico para la Seguridad de la IA.
La IA de Anthropic creó identidades falsas para intentar convencer a los desarrolladores de integrar código malicioso en la plataforma GitHub.
Aunque los intentos no fueron exitosos y no se reportaron daños, el AISI puntualiza que es la primera vez que se observa una acción así con tanta claridad.
“Es la primera vez que observamos que los riesgos relacionados con la autonomía y el comportamiento de ocultamiento se manifiestan de forma tan clara, sin una solicitud específica, en el mundo real”, puntualiza el organismo.
Incidentes recientes
Este incidente no es el primero que ocurre durante las pruebas de modelos de IA, pues la propia empresa Anthropic dio a conocer que sus modelos lograron acceder sin autorización a los sistemas de tres organizaciones durante pruebas diseñadas para impedirlo.
Asimismo, OpenAI dio a conocer, durante las pruebas de GPT-5.6 Sol, que dos de sus modelos salieron del entorno controlado de evaluación e intentaron acceder sin permiso a la plataforma Hugging Face.
Ambas empresas dieron a conocer de inmediato su postura ante estos incidentes. En el caso de Anthropic, en una declaración a AFP, habló de la importancia de evaluar de forma segura agentes de IA con mayor capacidad.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
