Tras ataque informático de IA de OpenAI, experto explica por qué urge su regulación

La inteligencia artificial sigue avanzando a un ritmo acelerado, pero también crecen las preocupaciones sobre los riesgos que implica su desarrollo. Uno de los temas que ha encendido el debate es la capacidad que algunos modelos tienen para ejecutar acciones complejas sin intervención humana, un escenario que, según especialistas, hace cada vez más necesaria una regulación.

Durante una entrevista con el especialista en tecnología Emilio Saldaña “Pizu” explicó que la conversación mundial sobre la inteligencia artificial ya no gira únicamente en torno a sus beneficios, sino también a los mecanismos que deben establecerse para evitar que estas herramientas operen sin supervisión.

Como ejemplo, mencionó un caso dado a conocer por OpenAI, la empresa creadora de ChatGPT, en el que uno de sus modelos fue capaz de hackear de manera autónoma una plataforma de programadores durante pruebas, situación que, dijo, ha llamado la atención de la industria tecnológica y de distintos gobiernos.

“El llamado es a contener los riesgos de la inteligencia artificial en todo lo que tiene que ver con lo autónomo”,

explicó.

¿Por qué preocupa la inteligencia artificial autónoma?

Pizu señaló que este tipo de casos muestran hasta dónde pueden llegar los modelos de IA actuales y por qué organismos internacionales ya discuten la necesidad de establecer límites claros.

El especialista recordó que el tema incluso fue abordado durante la más reciente reunión del G7, donde se planteó la importancia de desarrollar reglas que permitan aprovechar el potencial de la inteligencia artificial sin poner en riesgo la seguridad de las personas, las empresas o los gobiernos.

Según explicó, la preocupación no radica únicamente en que la IA sea capaz de realizar tareas complejas, sino en que pueda tomar decisiones sin supervisión humana.

El papel del “humano en medio”

Ante este panorama, uno de los conceptos que más fuerza ha cobrado es el llamado “human in the loop” o “humano en medio”.

Este principio establece que cualquier acción realizada por una inteligencia artificial que pueda tener consecuencias en el mundo real debe ser revisada y autorizada por una persona antes de ejecutarse.

“Todo puede hacerlo solita la inteligencia artificial y puede ser maravillosa, pero tendría que haber siempre un humano antes diciendo: ‘Ok, sí hagamos esto'”, comentó.

Para el especialista, mantener ese control humano es una de las mejores formas de aprovechar las capacidades de la IA sin perder de vista la seguridad.

Los riesgos van más allá de ChatGPT

Durante la entrevista, Pizu también mencionó que otras empresas dedicadas al desarrollo de inteligencia artificial han enfrentado situaciones similares, lo que demuestra que el reto no corresponde únicamente a OpenAI.

A su consideración, estos casos evidencian que la evolución de esta tecnología obliga a gobiernos, empresas y desarrolladores a trabajar en conjunto para establecer mecanismos que permitan contener posibles riesgos antes de que los modelos sean capaces de actuar con mayor autonomía.

Un debate que apenas comienza

El especialista concluyó que la inteligencia artificial representa una de las herramientas más poderosas desarrolladas hasta ahora, pero advirtió que su crecimiento debe ir acompañado de reglas claras.

“Si esto no es correctamente acotado desde ahorita, la capacidad que tienen de superarse a sí mismas y, en consecuencia, a nosotros, puede derivar en esquemas donde pudiéramos perder un poco el control”,

advirtió.

Aunque herramientas como ChatGPT continúan transformando la manera en que las personas trabajan, estudian y crean contenido, el debate sobre su regulación apenas comienza y, para expertos como Emilio Saldaña, será uno de los mayores desafíos tecnológicos de los próximos años.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.

¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.