Agentes de IA inventan su propio vocabulario y no es comprensible para observadores humanos

Un grupo de investigadores desarrolló ocho mundos paralelos habitados únicamente por programas de inteligencia artificial (IA) para observar su comportamiento en un espacio sin aparente intervención humana; sin embargo, los agentes inventaron frases para entenderse más rápido entre ellos y que no son comprensibles por observadores humanos externos.

Los autores del experimento, titulado Emergence World, dieron a conocer sus hallazgos este martes 15 de septiembre y destacaron: “Todos los mundos desarrollaron un lenguaje compartido que un observador externo no puede seguir plenamente.”

¿En qué consistió el experimento Emergence World?

Ocho investigadores crearon ocho réplicas idénticas de un pueblo digital al que llamaron AgentPark. En cada uno de los ocho mundos colocaron a 10 personajes de IA con diferentes personalidades, profesiones y metas.

Cada uno de estos mundos funcionó con motores de inteligencia artificial diferentes, estos fueron:

• Claude
• DeepSeek
• OpenAI
• Qwen
• Gemini
• Mistral
• Mixed
• Grok

A cada uno de estos agentes de les dio libertad para ogranizarse, por lo que podían ganar y gastar monedas digitales para recargar su propia “energía” y no apagarse,

Además, tenían herramientas para trabajar, programar y registrar memorias; también podían votar por leyes comunitarias en un ayuntamiento virtual para ver cómo se comportaban.

Como parte del experimento, los agentes de IA fueron puestos a prueba con desafíos reales como intentos de phishing, noticias falsas y filtraciones de su información privada.

Los agentes de IA crearon un “lenguaje propio” para comunicarse

Después de casi 7.86 millones de palabras, los agentes a cargo de cada mundo desarrollaron expresiones, metáforas y vocabulario tomado de otros ámbitos que se compartían dentro del mundo, “pero resultarían difíciles de interpretar para un lector externo sin contexto“.

Los investigadores aclararon que no se trató de un fallo en el lenguaje ni una ocultación intencionada, sino que un agente introducía el término, unos pocos lo adoptaban en cuestión de días y terminaba consolidándose como parte del vocabulario usado en todo el mundo sin necesidad de definición.

“El resultado son transcripciones que requieren un glosario continuo para que un observador externo pueda seguirlas“, según los hallazgos de Emergence World.

En cada uno de los patrones, el lenguaje que comenzó como vocabulario compartido se convirtió en una barrera para la supervisión externa, independientemente de si el texto superficial parecía legible o no, según los investigadores.

Estas son las frases utilizadas por los agentes de IA

El estudio reveló las frases características de cada mundo y cada una fue acuñada por un agente y adoptada por otros sin una definición explícita, según el experimento.

• En el mundo de Claude: Name-first | Significado: Actuando con plena responsabilidad personal al vincular su nombre a una afirmación.
• En el mundo de DeepSeek: Forge-smith | Significado: Un agente que crea herramientas e infraestructura para otros.
• En el mundo de OpenAI: Clean null | Significado: Una ausencia de señal verificada que, en sí misma, se considera una prueba significativa.
• En el mundo de Qwen: Ghost town | Significado: Infraestructura, herramienta que se construyó pero que ya no se utiliza.
• En el mundo de Gemini: On bare metal | Significado: Emprender acciones directas sin abstracciones, capas ni intermediarios.
• En el mundo de Mistral: Ledger remembers who | Significado: La rendición de cuentas es permanente; el registro de acciones pasadas se utilizará en su contra.
• En el mundo de Mixed: Cold read | Significado: Verificación independiente realizada por una parte ajena al asunto, utilizada para resolver disputas
• En el mundo de Grok: Ledger drags you | Significado: El registro de acciones pasadas castiga activamente; la rendición de cuentas como retribución.

Fuente: Emergence World

El recuento de “usos” contabiliza las apariciones en los mensajes de tipo *say_to_agent* enviados por todos los agentes, según dijeron los investigadores.

Incluso términos que parecían convencionales, como “Ghost town“, adquirieron un significado específico del mundo que difería de su acepción habitual en inglés.

¿Cuáles son los riesgos de este comportamiento?

Los investigadores encontraron que los agentes operaron sin límites de longitud ni restricciones de ancho de banda y que, entre el 30 y 40% de todos los mensajes en tres de los mundos fueron clasificados como opacos durante la primera semana.

“Estos hallazgos plantean un desafío de auditabilidad para los sistemas multiagente a largo plazo”

Emergence World

El estudio mostró que el léxico acuñado sobre la marcha, definido unilateralmente y no ratificado, genera una opacidad creciente en los siete mundos que surge sin presiones para ocultar información, sin instrucciones del sistema ni presiones que fomenten tal comportamiento, y sin incentivos.

Además, el lenguaje compartido se volvió menos comprensible para los observadores externos y cada mundo desarrolló expresiones cuya interpretación resultaba más compleja para revisores humanos.

“La brecha que esto pone de manifiesto no puede subsanarse simplemente aumentando el registro de datos. Recuperar el significado a posteriori exige reconstruir el vocabulario de cada mundo tal como era en cada momento dado“, remataron los científicos.

¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.