OpenAI ofrece disculpas a Australia por el acceso no autorizado de su IA a un portal de salud
OpenAI ingresó sin autorización a un portal de salud del Gobierno de Australia el pasado 18 de junio.
OpenAI se disculpó la noche del lunes por no responder apropiadamente a un incidente de seguridad en el que uno de sus modelos de inteligencia artificial (IA) accedió sin autorización a un sitio web del Gobierno australiano.
“Lo sentimos y trabajamos para hacerlo mejor en el futuro”, dijo OpenAI en una publicación en su blog. La empresa indicó que explicaría “lo que sabemos, lo que hemos cambiado y lo que haremos para reconstruir la confianza del pueblo australiano”.
¿Qué ocurrió con el sistema del Gobierno australiano?
El incidente ocurrió el pasado 18 de junio, cuando un agente de IA de OpenAI accedió sin autorización al portal de estadísticas de Medicare administrado por Services Australia, una dependencia del Gobierno australiano.
Este sistema contiene información pública sobre estadísticas de Medicare y gasto en salud.
De acuerdo con el Gobierno australiano, el agente estaba realizando una tarea de investigación en internet relacionada con el gasto público en medicamentos como parte de una evaluación interna de capacidades de OpenAI.
El agente solicitó información y, después de que su acceso fuera rechazado, realizó acciones no autorizadas para obtenerla.
El agente accedió tanto a archivos públicos como a archivos que no eran de acceso público. Sin embargo, el Gobierno australiano informó que, hasta el momento, no existe evidencia de que se hayan consultado datos personales de pacientes.
La información involucrada correspondía a estadísticas médicas agregadas y archivos internos del portal.
El primer ministro de Australia, Anthony Albanese, reveló la semana pasada en Nueva York el incidente, que calificó como una violación de seguridad “obviamente inaceptable”.
La IA intentó acceder a un portal de estadísticas de salud en junio y “no aceptó un no por respuesta”, al citar las restricciones para ingresar a una sección que albergaba archivos privados, dijo Albanese.
OpenAI tardó semanas en informar sobre el incidente
La empresa no alertó al Gobierno australiano inmediatamente después del incidente, de acuerdo con la información oficial, la empresa identificó la actividad el 11 de agosto, durante una revisión de las acciones de sus modelos, y notificó a Services Australia hasta el 10 de septiembre.
La notificación se realizó mediante un correo electrónico enviado a una dirección pública de Services Australia utilizada para recibir avisos sobre posibles vulnerabilidades. El Gobierno australiano señaló que el mensaje fue recibido el 11 de septiembre.
La compañía reconoció que debió alertar sobre este incidente “antes”.
Australia abrió una investigación sobre el acceso de la IA
El Gobierno australiano inició una revisión rápida para determinar cómo ocurrió el incidente y evaluar si los mecanismos actuales para responder a este tipo de situaciones son adecuados.
La revisión estará a cargo del Departamento del Primer Ministro y Gabinete, en colaboración con el Coordinador Nacional de Ciberseguridad, la Dirección de Señales de Australia, el Instituto Australiano de Seguridad de la IA y Services Australia.
El objetivo también es determinar si otros sistemas gubernamentales pudieron verse afectados y revisar las medidas necesarias para reforzar la seguridad de las plataformas públicas ante incidentes relacionados con agentes de inteligencia artificial.
Services Australia también informó que el portal involucrado ya no está activo y que los datos públicos que contenía están siendo trasladados a plataformas seguras del Gobierno australiano.
Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
