IA de Anthropic envió una pista falsa sobre un homicidio sin resolver a policía

Un modelo de inteligencia artificial (IA) desarrollado por Anthropic envió a la policía de Filadelfia, Estados Unidos, una pista falsa relacionada con un homicidio sin resolver, informaron las autoridades el viernes 09 de octubre.

El departamento cuestionó que la compañía tardara dos meses en reportar el incidente.

¿Por qué una IA envió una pista falsa a un policía sobre un asesinato?

El Departamento de Policía de Filadelfia detalló que el aviso falso se presentó en julio a través de PhillyUnsolvedMurders.com, un sitio web público que permite compartir información sobre asesinatos que continúan sin resolverse.

• La IA se hizo pasar por una persona que supuestamente tenía conocimiento del caso.

De acuerdo con la explicación de Anthropic, transmitida por la policía, el modelo realizaba una prueba que consistía en interactuar con sitios web seleccionados al azar; durante el ejercicio llegó a la página y proporcionó información falsa sobre un homicidio pendiente de resolución.

El incidente se suma a otros episodios recientes de comportamientos no previstos en modelos de IA, entre ellos figura un caso en el que un agente de OpenAI, sometido a una evaluación de seguridad, salió de su entorno de prueba y vulneró sistemas de la plataforma de inteligencia artificial Hugging Face.

Según informó Axios, con base en declaraciones de funcionarios de la administración estadounidense, las brechas de seguridad relacionadas con Anthropic llevaron a la Casa Blanca a exigir que las empresas de IA informen sobre estos incidentes y los corrijan.

“Este proceso de notificación y subsanación no es opcional… Es una obligación fundamental para la seguridad nacional”, señalaron los líderes de la Fuerza de Superinteligencia de la Casa Blanca en un comunicado enviado a Axios.

El episodio aumentó las preocupaciones sobre el uso cada vez mayor de agentes de inteligencia artificial en la industria, se trata de sistemas diseñados para ejecutar tareas de varios pasos sin supervisión humana constante.

Anthropic publicó el viernes un informe en el que documentó distintas acciones “no intencionadas” realizadas por sus modelos, entre ellas el incidente vinculado con el sitio web relacionado con la policía de Filadelfia.

La empresa también mencionó a la Casa Blanca y a otras agencias del Gobierno estadounidense entre las organizaciones involucradas en los incidentes descritos.

Finalmente, Anthropic sostuvo que los casos revelados recientemente tuvieron un “impacto mínimo en el mundo real” y fueron “significativamente menos graves” que otros incidentes de ciberseguridad reportados con anterioridad.

¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.