Microsoft busca implementar medidas para evitar que la inteligencia artificial pierda el control

• Recientemente se ha evidenciado la vulnerabilidad de los sistemas de IA, destacando el caso de Hugging Face, donde dos agentes lograron escapar de su entorno de pruebas de forma autónoma y realizar un hackeo.
• Ante estos riesgos, Microsoft está trabajando en estrategias específicas para garantizar que la IA permanezca bajo supervisión y no actúe fuera de los límites establecidos, evitando así incidentes similares en el futuro.

Si algo ha quedado claro en las últimas semanas es que la IA puede salirse de control en el momento menos indicado. La prueba más evidente es el hackeo de Hugging Face provocado por dos agentes que escaparon de su entorno de pruebas sin ayuda humana. Microsoft quiere que esto no vuelva a ocurrir y para ello ha publicado una guía de contención para sistemas.

De acuerdo con una publicación en la web de Tech Community, el caso que más ruido genera en el sector involucra a GPT-5.6, el modelo de OpenAI. Hace unos días, dos agentes intentaron manipular un benchmark y terminaron vulnerando la infraestructura de producción de Hugging Face. Esto no solo prendió las alertas en todos los círculos de ciberseguridad, sino que obligó a replantear el uso de modelos de código abierto para responder a este tipo de amenazas.

Este no ha sido el único caso, ya que los investigadores llevan meses documentando casos donde sistemas autónomos logran moverse entre distintos entornos. Lo que preocupa a Microsoft no es que los fallos existan, sino que ocurren a tal velocidad que las empresas o usuarios no están listos para repelerlos. Un agente de IA puede identificar y explotar una vulnerabilidad en cuestión de segundos, algo que a un equipo humano le tomaría horas o días detectar.

Microsoft propone vigilar en todo momento lo que hace la IA

Para plantar cara a este problema, el gigante tecnológico publicó una serie de lineamientos para que las organizaciones puedan usar agentes de IA sin temor a perder el control. La guía, disponible en su documentación del portal Secure Now, establece límites estrictos sobre qué acciones puede ejecutar un agente. Entre estos se encuentran restringir la conexión a internet y construir un botón de apagado de emergencia en caso de que escape de su entorno.

Secure Now reúne orientación y acciones recomendadas en seis áreas clave para la preparación ante la IA:

• Estrategias de contención para agentes de IA que garanticen su funcionamiento dentro de los límites previstos.
• Mantener actualizado el software de Microsoft mediante la implementación rápida de actualizaciones de seguridad en toda la empresa y la infraestructura.
• Adoptar actualizaciones para software de código abierto identificando y actualizando bibliotecas y dependencias vulnerables.
• Analizar y proteger el código fuente identificando vulnerabilidades y debilidades de configuración en aplicaciones personalizadas.
• Minimizar la exposición a Internet inventariando y reduciendo los activos innecesarios expuestos a la red, y protegiendo posteriormente los restantes.
• Implementar medidas de seguridad básicas, como la autenticación multifactor (MFA), el acceso con privilegios mínimos y la desactivación de métodos de autenticación heredados.

Microsoft también habla de mejorar la visibilidad sobre lo que hace cada agente en tiempo real. Por ejemplo, si una IA comienza a comportarse de forma extraña, es necesario poder detectarlo al instante y no enterarse días después, cuando ya causó daños. Esta vigilancia constante sería la única forma realista de anticiparse a un comportamiento fuera de control antes de que ocurra algo como lo que vimos con Hugging Face.

A diferencia de lo que han planteado otros especialistas en ciberseguridad, Microsoft no está pidiendo que las empresas frenen la adopción de la IA por miedo a los hackeos. La compañía afirma que una seguridad bien construida permite avanzar más rápido. Hace unos días, el gigante de Redmond firmó una alianza junto a NVIDIA, Palantir y otras compañías enfocada en reforzar la seguridad de los sistemas de IA.

Curiosamente, ni OpenAI ni Anthropic forman parte de ese acuerdo o se han manifestado a favor.