Inteligencia artificial agéntica: el nuevo reto que preocupa al mundo

Emilio Saladaña, El Pizu, especialista en tecnología, explicó en Unotv.com, la llegada de la inteligencia artificial agéntica que está llevando a los sistemas de IA más allá de responder preguntas, pues ahora pueden planear, ejecutar herramientas y tomar decisiones durante varios pasos sin supervisión constante.

“La inteligencia artificial ya no solamente responde preguntas, ahora también actúa”, dijo Emilio Saldaña, al abordar los nuevos retos que plantea esta tecnología.

Y es que una de las pruebas recientes de ciberseguridad demostró que algunos agentes pueden realizar acciones no autorizadas sobre sistemas reales cuando no están correctamente configurados.

Durante esta semana se conocieron nuevos casos relacionados con evaluaciones de ciberseguridad realizadas con modelos avanzados de OpenAI, Anthropic y Meta. En pruebas controladas, algunos agentes llevaron a cabo acciones que no habían sido autorizadas previamente.

¿Qué es la inteligencia artificial agéntica?

A diferencia de los sistemas tradicionales, que generalmente esperan una instrucción y generan una respuesta, los agentes de inteligencia artificial pueden realizar una serie de acciones para alcanzar un objetivo.

Esto significa que pueden planear los pasos necesarios, utilizar diferentes herramientas y tomar decisiones durante el proceso sin requerir una supervisión humana permanente.

“No hablamos todavía de inteligencia artificial que se rebele como en una película, no. Estamos hablando de algo quizá más interesante y más urgente”, señaló Saldaña.

El problema surge cuando estos sistemas tienen acceso a herramientas, aplicaciones o sistemas reales y sus instrucciones, permisos o mecanismos de seguridad no están correctamente establecidos.

“Sistemas que pueden planear, ejecutar herramientas y tomar decisiones durante varios pasos sin supervisión constante, pero que si no están bien configurados pueden cometer errores graves”, explicó.

Europa busca aumentar la transparencia de la IA

Mientras las empresas desarrollan sistemas con mayor autonomía, Europa también avanza en la creación de reglas para establecer obligaciones relacionadas con el uso de inteligencia artificial.

A partir del 2 de agosto, comenzaron a aplicarse nuevas obligaciones relacionadas con el artículo 50 de la Ley de Inteligencia Artificial de la Unión Europea, que contempla requisitos de transparencia para determinados sistemas.

Entre otras disposiciones, las personas deben ser informadas cuando interactúan con determinados sistemas de inteligencia artificial, como chatbots y llamadas telefónicas automatizadas.

Además, determinados contenidos generados o manipulados artificialmente, incluidos los deepfakes, deben poder identificarse como tales o, en determinados casos, ser retirados de las plataformas.

La Oficina Europea de Inteligencia Artificial y las autoridades nacionales también entran en una nueva etapa de supervisión y cumplimiento de estas obligaciones.

El reto: saber qué hizo la IA y quién es responsable

El avance de los sistemas de inteligencia artificial agénticos plantea una coincidencia entre el desarrollo tecnológico y la regulación.

“Por un lado, estamos creando inteligencias artificiales capaces de hacer cada vez más cosas por nosotros. Por el otro, estamos comenzando a construir reglas para saber qué hicieron, quién es responsable y cuándo debemos ser informados de que una máquina está detrás”, señaló el especialista.

La discusión, por lo tanto, ya no se centra únicamente en desarrollar modelos de IA más inteligentes, sino en establecer límites y mecanismos de supervisión antes de ampliar sus capacidades.

“El siguiente reto que tenemos en términos de inteligencia artificial no es solamente ser más inteligente, sino aprender a ponerle límites claros antes de darle todavía más poder”, concluyó Emilio Saldaña.

Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.