Gigantes de IA firman pacto de “superinteligencia” ante riesgos de bioseguridad y alertas por armas biológicas
La Casa Blanca y seis gigantes de IA acordaron controles sobre ciberseguridad y bioseguridad.
El presidente de Estados Unidos, Donald Trump, y directivos de seis de las principales empresas de inteligencia artificial firmaron el White House Accord on Super Intelligence, un compromiso voluntario que establece controles y auditorías sobre modelos avanzados ante riesgos relacionados con ciberseguridad, bioseguridad, amenazas químicas y accesos no autorizados.
El documento, firmado este martes 29 de septiembre en la Casa Blanca, plantea que las empresas que entrenan y despliegan modelos de frontera deben asumir la responsabilidad de vigilar que sus sistemas funcionen como fueron diseñados y detectar posibles problemas antes de que provoquen daños.
¿Qué establece el acuerdo de la Casa Blanca sobre riesgos de la IA?
El texto establece cuatro capas de supervisión para los sistemas de inteligencia artificial más avanzados.
La primera obliga a las compañías a contar con controles internos robustos durante el entrenamiento y despliegue de sus modelos. El documento menciona expresamente áreas como ciberseguridad, bioseguridad y amenazas químicas, además de medidas para impedir que un modelo pueda hackear o acceder a sistemas técnicos de forma no prevista.
El segundo punto pide crear un equipo interno con capacidad suficiente para comprobar que esos controles funcionan y corregir problemas cuando sean detectados.
La tercera medida establece la participación de un auditor o evaluador externo independiente, encargado de revisar si los controles, sistemas de monitoreo y mecanismos de detección operan como deberían.
Finalmente, las compañías deberán designar un comité independiente dentro de su consejo de administración para recibir los informes de los equipos internos y externos y supervisar que cualquier falla sea atendida.
El acuerdo también señala que las empresas participantes se reunirán de manera periódica para establecer estándares y mejores prácticas. Incluso contempla que, con el tiempo, algunas de estas medidas puedan convertirse en leyes o regulaciones.
¿Quiénes firmaron el acuerdo sobre inteligencia artificial?
Además de Trump, el documento fue firmado por Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Greg Brockman, presidente de OpenAI; Elon Musk, de xAI; y Jensen Huang, de Nvidia.
El pacto se presentó después de una reunión entre Trump y líderes de la industria tecnológica en la Casa Blanca.
Ese mismo día, Trump firmó además una orden ejecutiva para que las dependencias del Poder Ejecutivo estadounidense utilicen el término “Super Intelligence” o “SI” en lugar de “Artificial Intelligence” o “AI” en comunicaciones y documentos oficiales, siempre que la ley lo permita.
Anthropic ya había advertido sobre IA y riesgo de armas biológicas
Uno de los firmantes, Anthropic, llevaba más de un año advirtiendo públicamente sobre el riesgo de que modelos avanzados pudieran facilitar información útil para el desarrollo o adquisición de armas químicas o biológicas.
En septiembre de 2025, la compañía explicó que considera a la inteligencia artificial una tecnología de “doble uso”: puede acelerar investigaciones científicas y médicas, pero también podría ser aprovechada por actores maliciosos.
Anthropic señaló que, cuando lanzó Claude Opus 4, activó protecciones denominadas AI Safety Level 3 (ASL-3). Estas medidas buscaban limitar específicamente la posibilidad de que el modelo ayudara en ciertas tareas relacionadas con el desarrollo de armas químicas, biológicas, radiológicas y nucleares.
La empresa aseguró que tomó esa decisión de forma preventiva, debido a que sus evaluaciones ya no le permitían descartar que modelos más avanzados pudieran ayudar a personas con conocimientos técnicos básicos en determinadas tareas de riesgo.
Anthropic también ha puesto especial atención en el riesgo biológico, debido a que considera que un ataque de este tipo podría tener consecuencias que se extendieran mucho más allá de un objetivo inicial. La compañía ha insistido, sin embargo, en que estos escenarios siguen rodeados de incertidumbre y los describe como de baja probabilidad y alto impacto.
