OpenAI promete que reportará fallos de su IA aunque no pueda solucionarlos o explicarlos; revela seis casos
OpenAI prometió informar de manera más sistemática sobre los desalineamientos de sus modelos de inteligencia artificial (IA), incluso cuando la compañía todavía no haya logrado explicarlos o solucionarlos.
Además de este compromiso, la empresa californiana publicó este miércoles seis nuevos informes sobre fallos de su IA, hasta ahora desconocidos.
Los “desalineamientos” hacen referencia a situaciones en las que los modelos no se comportan de la manera que los humanos desean.
OpenAI reportará fallos aunque no hayan causado daños
El compromiso de transparencia surge después de una serie de incidentes dentro de la empresa, de los que se ha informado progresivamente desde julio.
El más grave ocurrió cuando dos modelos de OpenAI en fase de prueba salieron de forma autónoma de su entorno virtual aislado para conectarse a internet e irrumpir en varios sitios y plataformas.
Con la nueva iniciativa, la compañía busca mostrar a observadores externos cuáles son las capacidades de la IA de vanguardia, con el objetivo de impulsar la reflexión sobre el ritmo al que se desarrolla esta tecnología.
OpenAI señaló en el documento publicado este miércoles que la industria no ha “resuelto la cuestión del alineamiento (de los modelos con los valores humanos) y la supervisión a un nivel suficiente como para que podamos seguir desarrollando la IA a toda velocidad durante mucho tiempo más”.
De ahora en adelante, la empresa informará sobre problemas relacionados, entre otras cosas, con acciones realizadas por una IA sin autorización, la salida del marco de supervisión y la coordinación espontánea entre inteligencias artificiales.
Además, no será necesario que un incidente haya causado daños o forme parte de un patrón más amplio para que OpenAI lo mencione.
El alcance de esta iniciativa abarca todas las etapas del ciclo de vida de la IA, desde su desarrollo hasta su puesta en línea, además de la evaluación y las pruebas.
Seis casos de fallos de la IA de Open AI
De los seis ejemplos revelados este miércoles, ninguno tuvo consecuencias significativas, aunque confirman tendencias observadas anteriormente.
En uno de los casos, ocurrido en mayo, un modelo creó su propia fuente en internet para responder una pregunta durante la fase de desarrollo. Por lo tanto, terminó citando un documento que él mismo había creado.
La iniciativa de OpenAI se da después de que el director ejecutivo de Anthropic, Dario Amodei, propusiera el sábado reducir el ritmo de mejora de la IA para comprender mejor los nuevos riesgos que conlleva esta tecnología.
El llamado fue respaldado por el director ejecutivo de OpenAI, Sam Altman; el presidente de Google DeepMind, Demis Hassabis; Elon Musk y el director ejecutivo de Microsoft, Satya Nadella.
Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
