Microsoft advierte a las organizaciones que deben considerar a los agentes de IA como posibles riesgos internos. Esto no se debe a que sean maliciosos por naturaleza, sino a su capacidad para acceder a datos, aplicaciones y herramientas empresariales, ejecutando acciones con una alta velocidad. Esta alerta surge a medida que las empresas integran estos agentes para tareas como la revisión y escritura de código.

Microsoft te advierte que las organizaciones deben tratar a los agentes de IA como riesgos internos potenciales, no porque sean maliciosos por defecto, sino porque pueden acceder a datos, aplicaciones y herramientas de la empresa y actuar basándose en ese acceso a gran velocidad.

La advertencia, publicada el 19 de octubre de 2026, llega en un momento en que las empresas utilizan agentes para gestionar tareas como escribir código, revisar documentos y procesar gastos.

Las acciones de un agente pueden cambiar a medida que cambian sus instrucciones, sus datos o su contexto de trabajo. Puede cometer un error, seguir instrucciones dañinas ocultas en un documento o verse comprometido.

Debido a que los agentes pueden actuar a través de sistemas conectados, una acción insegura podría exponer información confidencial o cambiar registros comerciales antes de que tú o cualquier persona se dé cuenta. El punto de Microsoft no es que cada agente sea peligroso, sino que las organizaciones no deben asumir que un agente siempre se comportará como se espera.

El riesgo aumenta cuando un agente recibe más acceso del que requiere su tarea. Un agente utilizado para revisar solicitudes de gastos, por ejemplo, puede necesitar leer las presentaciones y verificar las reglas de la empresa, pero no debería heredar automáticamente todos los permisos del empleado que lo configuró. Si encuentra instrucciones ocultas en un archivo o intenta realizar una acción no relacionada, los controles de seguridad deberían ser capaces de limitar lo que puede hacer.

Modelos de IA como amenazas internas

Microsoft dice que esos controles deben operar fuera del modelo de IA. El modelo puede proporcionar respuestas o planes, pero sistemas de seguridad independientes deben decidir a qué datos puede acceder y qué acciones puede tomar.

Esto es importante porque un modelo no debería ser capaz de cambiar o eludir las salvaguardas que lo gobiernan. El CEO de Microsoft, Satya Nadella, ha descrito este enfoque como la separación del suministro de inteligencia de la autoridad para actuar.

Recientemente escribí sobre por qué debemos tratar los modelos como riesgos internos, con controles de seguridad situados fuera del propio modelo.

Hoy, estamos poniendo en práctica ese principio ampliando el Proyecto Perception con nuevas capacidades para ayudar a evaluar continuamente el riesgo del agente, adaptar…

— Satya Nadella (@satyanadella) 19 de octubre de 2026

Para respaldar este enfoque, Microsoft anunció planes para ampliar el descubrimiento y los controles de agentes a través del Proyecto Perception y Microsoft Agent 365. La compañía afirma que está añadiendo soporte para 35 tipos más de agentes locales, elevando el total a 60, y expandiendo Microsoft Entra Agent ID para que los agentes tengan identidades separadas de sus patrocinadores humanos. Esa separación puede ayudarte a tu equipo de seguridad a rastrear quién es el dueño de un agente y distinguir sus acciones de las de una persona.

Microsoft también describió los Permisos Dinámicos, el Riesgo Dinámico del Agente y el Acceso Condicional Dinámico para agentes. Los controles propuestos darían a los agentes solo el acceso necesario para una tarea y ajustarían dicho acceso a medida que cambie el riesgo.

Por ejemplo, una organización podría permitir que un agente siga leyendo información mientras le bloquea la capacidad de realizar cambios, restringir los sistemas a los que puede llegar o requerir la aprobación humana antes de una acción sensible. Ante un riesgo mayor, el agente podría ser aislado o detenido.

La empresa también presentó los Guardian Agents (Agentes Guardianes), destinados a ayudar a los equipos de seguridad a monitorear la actividad de los agentes y responder a los cambios a velocidad de máquina. Microsoft dice que las personas seguirán estableciendo las reglas y manteniendo el control de las decisiones importantes, mientras que los Guardian Agents podrían investigar alertas y aplicar las salvaguardas permitidas. Los anuncios describen el enfoque de seguridad planeado por Microsoft, no una garantía de que se pueda prevenir cada amenaza relacionada con los agentes.

Para los equipos de seguridad, el mensaje es que incorpores la supervisión de los agentes en el despliegue desde el principio. Eso significa rastrear qué agentes existen, asignar identidades claras, limitar permisos, monitorear la actividad y mantener una forma independiente de detener acciones inseguras.

Cuando los agentes pueden actuar a través de los sistemas de la empresa, la visibilidad y los límites son esenciales para que los uses de forma segura.

Fuentes:
https://cybersecuritynews.com/ai-models-as-insider-threats/