Anthropic plantea una ley para detener modelos de IA peligrosos con autorización de un juez

Anthropic, creador del asistente de inteligencia artificial Claude, propuso su propio marco de regulación ante la falta de una ley federal, según el cual Washington podría vetar un modelo de IA peligroso pero sólo con la autorización de un juez.

La iniciativa fue presentada a legisladores estadounidenses, reveló el medio Politico. El texto de la propuesta plantea que Washington pueda bloquear un modelo de IA en caso de riesgo inminente de causar más de 50 muertos o heridos graves o pérdidas por más de mil millones de dólares. Todo, bajo el visto bueno de un juez.

Asimismo, se obligaría a los desarrolladores de IA a “poner a prueba los modelos más potentes”, a transparentar sus resultados frente al público, así como a “someterlos a una evaluación independiente” y “mantener un sólido programa de seguridad”, dijo un portavoz de Anthropic a la AFP este viernes.

Bajo el gobierno de Donald Trump, las empresas de IA están solo obligadas a decretos y compromisos voluntarios. El mandatario republicano se opone a frenar el auge de esta tecnología que impulsa la economía estadounidense.

El Congreso se mantiene dividido frente al tema, y no ha aprobado nada relacionado. La seguridad de la IA cobró relevancia tras las revelaciones de una serie de incidentes causados por sistemas avanzados de inteligencia artificial que se escaparon del control de sus creadores.

En junio, Anthropic fue obligada por Washington a suspender sus modelos más avanzados por casi tres semanas tras ser vetada por el Pentágono.

• Las relaciones de la empresa con el gobierno de Trump mejoraron recientemente.

“Nuestra propuesta (de regulación) también otorga al gobierno federal la capacidad de bloquear o disuadir el despliegue de los modelos más potentes cuando resulte peligroso“, remarcó el vocero de Anthropic.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.

Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.