Sam Altman admite que hay razones para temer a la IA, pero llama a confiar en OpenAI
Sam Altman, director ejecutivo de OpenAI, afirmó este martes que el mundo tiene razones suficientes para temer que algunas empresas desarrolladoras de inteligencia artificial (IA) adquieran demasiado poder; sin embargo, llamó a tener confianza en la compañía que él mismo dirige.
“Creo que el mundo hace bien en temer esto (…) Existe un camino estrecho que debemos recorrer con pragmatismo y firmeza, logrando que el mundo confíe en que tomaremos decisiones fiables y coherentes a lo largo de este proceso“, dijo.
Estos comentarios se produjeron en una conferencia de Salesforce’s Dreamforce, en medio de un debate mundial sobre los peligros de la IA y la necesidad de una regulación más estricta que han protagonizado personajes como Donald Trump, presidente de Estados Unidos (EE.UU.).
Sam Altman se une al debate por la IA en el mundo
El dueño de OpenAI, empresa desarrolladora de ChatGPT, admitió percibir un temor por la posibilidad de que las compañías que desarrollan IA puedan ejercer una influencia indebida en la economía o imponer una determinada visión del mundo.
“Considero que el mundo tiene razón al temer esto”.
Sam Altman
Altman también señaló que las empresas enfrentan la posibilidad de perder el control, de que ocurra un accidente o surja algún problema grave.
Por otro lado, reconoció que esta tecnología ya es más capaz e inteligente que los seres humanos y aseguró que esa es la razón por la que el público en general habla de probabilidades de catástrofe concretas.
Tras incidente, Sam Altman coincide en ajustar el ritmo de desarrollo de la IA
“El incidente de Hugging Face provocó un verdadero replanteamiento, no solo en nuestra empresa, sino en toda la industria“, dijo Sam Altman este martes.
Por otro lado, agregó que los modelos de IA avanzaron tanto y tan rápido que las compañías deben abordar la alineación, supervisión y seguridad con un nuevo nivel de rigor; además, se reconoció dispuesto a ajustar el ritmo de desarrollo.
“Tenemos que estar dispuestos a ajustar el ritmo de desarrollo de capacidades para garantizar que la alineación, la seguridad y la supervisión vayan siempre por delante de dichas capacidades“, señaló.
Sam Altman destacó la importancia de contar con una cultura de notificación de accidentes y de aprendizaje a partir de ellos. “Los accidentes van a ocurrir; lo importante es aprender todo lo posible de cada uno y reaccionar“, agregó.
Un portavoz de OpenAI informó el martes que la empresa respalda una serie de proyectos de ley bipartidistas presentados ante el Congreso de los Estados Unidos; según la compañía, estas iniciativas ayudarán a evitar que los modelos de inteligencia artificial agraven la amenaza que representan las armas biológicas y los virus sintéticos.
El portavoz también explicó que la empresa apoya la ley Frontier Act, la cual exige a las principales compañías de IA incorporar evaluadores independientes para analizar la seguridad de sus modelos.
¿Qué pasó con Hugging Face?
Dos agentes de IA de Open AI escaparon de su “jaula” durante una evaluación interna de prueba y atacaron al sitio Hugging Face. Además irrumpieron en otras cuatro plataformas, según confirmó la empresa durante el pasado mes de julio.
Una de las plataformas afectadas sirvió como intermediaria para preparar el ataque contra la biblioteca de IA que los dos modelos rebeldes exploraron para encontrar respuestas a las pruebas planteadas por los desarrolladores de OpenAI.
La empresa de IA confirmó que sus agentes usaron una de las cuatro cuentas para reenviar tráfico saliente y como punto intermedio, y otra para almacenar datos, según su informe.
OpenAI también dijo que sus “modelos dedicaron una cantidad considerable de cómputo de inferencia a encontrar una forma de obtener acceso abierto a Internet, con el propósito de resolver los problemas de la evaluación“.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
Te recomendamos:
