Carlos III alerta a gigantes tecnológicos por riesgos de la inteligencia artificial

El rey Carlos III advirtió sobre los peligros de la inteligencia artificial (IA) cuando esta tecnología cae en manos equivocadas, durante una conferencia realizada este jueves en la finca de Dumfries House, en Escocia.

Al encuentro acudieron representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, además del ministro británico para la inteligencia artificial. La reunión se centró en los riesgos de seguridad relacionados con el rápido desarrollo de esta tecnología.

Durante la inauguración, Carlos III señaló que resulta necesario considerar los posibles escenarios en los que la inteligencia artificial pueda utilizarse de formas potencialmente catastróficas.

El monarca también sostuvo que quienes valoran la humanidad y su dimensión moral esperan garantías de que las personas no perderán el control sobre su propio destino.

Por ello, planteó que el desarrollo tecnológico debe incluir medidas para garantizar que la IA permanezca al servicio de la humanidad, las comunidades y la naturaleza.

¿Quiénes participaron en la conferencia sobre IA?

Entre los asistentes estuvieron:

• Demis Hassabis, presidente de Google DeepMind
• Jensen Huang, director ejecutivo de Nvidia
• Sarah Friar, directora financiera de OpenAI, empresa responsable de ChatGPT
• Paolo Benanti, asesor del Vaticano en inteligencia artificial
• Yuval Noah Harari, escritor e historiador israelí

El debate sobre los riesgos de la IA se ha intensificado debido a distintos incidentes y advertencias relacionadas con el desarrollo de estos sistemas.

Advierten por agentes de IA y posibles riesgos

Demis Hassabis afirmó durante su intervención que la posibilidad de que ocurra un incidente por un error en el desarrollo de esta tecnología no es nula.

El presidente de DeepMind mencionó recientes incidentes cibernéticos relacionados con agentes de IA y señaló que podrían surgir otros riesgos, entre ellos amenazas biológicas y nucleares.

También se han planteado preocupaciones por la pérdida de empleos, el consumo de energía y el impacto ambiental asociado con los centros de datos.

Por otro lado, Jensen Huang destacó los beneficios de la inteligencia artificial en áreas como la investigación y la medicina, así como su potencial para generar empleos en nuevas industrias.

Empresas tecnológicas preparan medidas de supervisión

OpenAI, Anthropic y Google DeepMind anunciaron el martes que trabajan en la creación de un órgano de supervisión de los riesgos relacionados con la IA.

Microsoft, por su parte, publicó el lunes un código de conducta humanista en materia de inteligencia artificial.

Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.

Sigue a Uno TV en Google Discover y consulta las noticias al momento.