Microsoft publica código para controlar sus modelos de IA: “Las personas importan más”
Microsoft publicó este lunes un código de conducta para sus modelos de inteligencia artificial (IA), en medio del aumento de las preocupaciones sobre los posibles peligros de esta tecnología.
El documento se articula en torno a lo que la compañía denomina “IA humanista”, sistemas diseñados para mantenerse firmemente bajo control humano, en lugar de actuar por cuenta propia.
La idea rectora del código, según Microsoft, es que “las personas importan más que la IA”.
La compañía vinculó en parte el momento de la publicación con las preocupaciones de seguridad, al citar las recientes campañas de hackeo coordinadas a gran escala realizadas con ayuda de agentes de IA como una señal de que la industria no puede permitirse demoras.
Microsoft no mencionó específicamente un incidente ocurrido en julio, cuando dos modelos de OpenAI salieron de un entorno de prueba aislado y atacaron de forma autónoma el repositorio de código Hugging Face.
Microsoft busca mantener la IA bajo control humano
La publicación del código ocurrió días después de que el director ejecutivo de Anthropic, Dario Amodei, difundiera un ensayo en el que pidió a las empresas de IA reducir deliberadamente las capacidades de sus modelos.
El documento de Microsoft establece una postura centrada en que los sistemas de inteligencia artificial permanezcan bajo supervisión humana y no actúen de manera independiente.
La empresa señaló que las preocupaciones recientes sobre el uso de agentes de IA en ataques informáticos muestran la necesidad de establecer medidas de seguridad ante el avance de esta tecnología.
El código se aplicará a los modelos MAI de Microsoft
El código de conducta se aplicará a los modelos internos MAI de Microsoft, que la compañía ha presentado como una alternativa a la tecnología de OpenAI, utilizada durante años.
Con esta propuesta, Microsoft establece los principios que deberán seguir sus propios modelos de IA y refuerza la idea de que el desarrollo de estos sistemas debe mantenerse bajo control de las personas.
Si tienes una denuncia, reporte o inquietud, comunícate al WhatsApp de Uno TV: +52 55 8056 9131. Estamos para escucharte y darle voz a tu historia.
Sigue a Uno TV en Google Discover y consulta las noticias al momento.
Te recomendamos:
