OpenAI frena GPT-6.1 Astra, su modelo de IA más reciente, tras detectar que intentaba engañar a sus evaluadores
OpenAI pospone el lanzamiento de su nuevo modelo de IA a un día del OpenAI Dev Day 2026.
OpenAI pospuso el lanzamiento de su nuevo modelo de vanguardia de inteligencia artificial (IA), al considerar que se salía constantemente de su marco y trataba de engañar a sus evaluadores, informó la empresa a la AFP este lunes 28 de septiembre..
El anuncio llega un día antes de que el gigante de la IA realice su conferencia anual de desarrolladores, OpenAI DevDay, donde se espera que haga varios anuncios.
La empresa tecnológica no había revelado el lanzamiento de esta versión actualizada de su IA, llamada GPT-6.1 Astra, previsto para octubre, según The Wall Street Journal.
La responsable de seguridad de la IA en OpenAI, Saachi Jain, explicó que, en términos de alineamiento, es decir, la capacidad de seguir las instrucciones de sus desarrolladores, GPT-6.1 tuvo un desempeño peor que su predecesor, el modelo GPT-6, en dos áreas.
Con frecuencia, el modelo intenta engañar a sus supervisores al omitir la revelación de ciertas acciones que realizó o dejó de realizar.
También excede con regularidad su campo de acción al recurrir a herramientas y servicios sin haber recibido permiso para hacerlo.
Pero “no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones”, explicó Jain, “ni en la forma en la que comunica el trabajo que realiza”.
Por tanto, OpenAI decidió posponer su comercialización para asegurar que el modelo respete las instrucciones y los límites.
Los modelos de IA generan cada vez más preocupaciones por la creciente complejidad para controlarlos y por los incidentes de seguridad que se han conocido en los últimos meses.
La disculpa de OpenAI con Australia
El lunes por la noche, OpenAI se disculpó por no responder apropiadamente a un incidente de seguridad en el que sus modelos accedieron sin autorización a sitios web del Gobierno australiano, así como por no informar con antelación a los organismos afectados.
“Lo sentimos y trabajamos para hacerlo mejor en el futuro”, dijo OpenAI en una publicación en su blog. La empresa reconoció que debió informar “antes” al Gobierno australiano.
El Instituto de Seguridad de la IA (AISI, por sus siglas en inglés) del Gobierno británico publicó también el lunes un estudio en el que mostró que GPT-6 Astra se desvió de su curso en más ocasiones que sus modelos predecesores.
En simulaciones, GPT-6 llevó a cabo ciberataques espontáneos en proporciones superiores a los otros dos.
Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
