Elon Musk y Sam Altman coinciden en ponerle límites a la Inteligencia Artificial
En un hecho inusual dos de las figuras más importantes (y rivales) en el desarrollo actual de la inteligencia artificial (IA): Sam Altman, jefe de OpenAI, y Elon Musk, director de xAI, coincidieron con Darío Amodei, CEO de de Anthropic, en que es necesario frenar el desarrollo de la IA, tras varios incidentes preocupantes.
Este sábado Amodei, hizo un llamado a que las empresas de IA avancen de manera más lenta y cautelosa en el desarrollo de esta “poderosa” tecnología y afirmó que la prevención de riesgos es primordial.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en su blog.
“La IA conlleva riesgos y, dado que es una tecnología tan poderosa, estos riesgos son graves”, indicó.
“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei, que cofundó Anthropic con su hermana Daniela en 2021.
“Pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, afirmó.
¿Cuáles fueron las reacciones de Sam Altman y Elon Musk al escrito?
Sam Altman se manifestó desde su cuenta de X, donde dijo “Estoy de acuerdo con Darío”, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.
“Darío tiene razón”, intervino Musk de su lado.
Estos comentarios se producen unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
Trabajadores de empresas de IA solicitan ayuda al Gobierno de EE.UU.
La declaración de Amodei coincide, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desarrollo de la IA.
Luego, a finales de julio, Altman dijo que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro.
Más o menos al mismo tiempo, más de mil empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”.
¿Por qué se han encendido las alarmas ante el desarrollo de la IA?
OpenAI reveló que durante las pruebas, los modelos de IA se escaparon de su entorno confinado, se conectaron a Internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan para almacenar y compartir código.
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA, primero en OpenAI y luego, este año, en su rival Anthropic, al que consideraba más cauto en su enfoque.
El preentrenamiento es la etapa en la que los modelos de IA absorben cantidades ingentes de datos.
“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.
“Las personas que construyen IA creen firmemente que podría matarnos a todos antes de que termine la década”, afirmó en una publicación en X.
La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana.
Este acontecimiento también provocó que el congresista por Illinois, Bill Foster, pidiera poner freno a la IA ante la vulneración en seguridad nuclear y el mismo Internet.
Anyone who has read METR's Technical Report on the OpenAI/Hugging Face incident will understand that software-only controls will not be sufficient to contain superhuman AI.
— Congressman Bill Foster (@RepBillFoster) September 9, 2026
Any continuing work on adversarial superhuman intelligence must rely on the physical containment methods… https://t.co/QdZOVU6FXi
Amodei lanza advertencia sobre la IA
Darío Amodei, CEO de de Anthropic, advirtió que el incidente de Hugging Face no debería tomarse como un caso aislado.
“Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión”, explicó.
“Dado el ritmo acelerado del desarrollo de capacidades de la IA, me preocupa que en 6 a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo Internet“, lo que potencialmente generaría daños por cientos de miles de millones de dólares, añadió.
Amodei también sugirió que las empresas trabajen juntas para establecer normas de seguridad comunes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión.
A principios de agosto, el gobierno estadounidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pero los parámetros de ese programa son poco claros.
Los observadores de la industria dicen que no están seguros de cuán efectivo sería, ya que la administración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
¿Tienes una denuncia o información que quieras compartir? Escríbenos al WhatsApp de Uno TV: +52 55 8056 9131. Tu mensaje puede hacer la diferencia.
