Microsoft busca que los agentes de IA posean identidad propia y sean tratados como empleados digitales, integrando permisos, políticas y sistemas de auditoría.

• Microsoft busca evolucionar el concepto de los agentes de inteligencia artificial para que dejen de ser simples chats y pasen a ser considerados empleados digitales. Según Satya Nadella, el CEO de la firma, estas entidades deben contar con identidad propia, permisos específicos y sistemas de auditoría para integrarse plenamente en la estructura operativa de las empresas.

Microsoft empieza a hablar de los agentes de IA como algo bastante más que un bot metido en una ventana de chat. Satya Nadella, CEO de la compañía, ha explicado que estos agentes de IA necesitan identidad propia, permisos, espacios aislados, políticas internas y sistemas de auditoría, porque dentro de una empresa como Microsoft ya no basta con soltarlos y esperar que todo funcione bien. Por ello, la compañía espera que, tras presentar su primer LLM propio, a los agentes de IA se les termine dando una identidad propia, lo cual, parece surrealista en estos momentos, ¿vamos encaminados a darles derechos como si fuese un ser vivo?

La idea va por ahí, y un servidor no sabe si eso es bueno o malo en estos momentos, porque las implicaciones son tremendas y complejas: si un agente puede consultar datos, generar contenido, ejecutar tareas o moverse por herramientas internas, alguien tiene que saber quién es, qué puede tocar, qué no puede tocar y qué ha hecho exactamente.

Microsoft quiere agentes de IA con identidad propia para detectarlos

Lo que dice Nadella tiene cierto sentido desde el razonamiento, pero desde esa identidad tiene que haber una parte de responsabilidad y derechos, siguiendo el mismo patrón que usa como ejemplo. La frase de Nadella resume muy bien el enfoque de Microsoft:

“Hay que darles identidades, hay que darles sandboxes y después hay que establecer políticas para gobernarlos”.

Es muy típico de las tecnológicas hablar de derechos y no de deberes ni de responsabilidad, haciendo que el usuario sea el que haga de cortafuegos si algo pasa mal. De hecho, ni siquiera podemos decir que si el usuario es el que sufre los efectos de esa IA, las tecnológicas se hagan realmente cargo, y casos no faltan precisamente.

Sea como fuere, no hablamos de ciencia ficción ni de una metáfora rara. Microsoft ya está usando agentes de IA internamente y Nadella reconoce que la gestión empieza a ser un problema real. El propio CEO asegura que puede tener 100 agentes de programación funcionando al mismo tiempo, pero también admite que manejarlos desde una interfaz de chat es un dolor de cabeza. Su frase fue bastante clara: “la carga cognitiva para mí al gestionar esto es muy alta”.

El que esté en un proyecto de IA importante, o esté creando el suyo propio, sabe que la gestión cognitiva es un problema cuando lanzas múltiples agentes, básicamente porque es como gestionar un equipo que es infinitamente más rápido que tú, y no se da a basto por muy rápido y centrado que se esté realmente.

La deriva de la IA está tomando una vertiente de autoridad individual que puede ser peligrosa

Ese punto es importante porque deja claro que el reto no está solo en crear agentes más potentes, ya que también hace falta una especie de panel de control para saber qué está haciendo cada uno, qué permisos tiene, dónde está trabajando y qué datos está generando. Si cada agente vive en una conversación distinta, la productividad prometida se convierte rápido en una maraña de ventanas, órdenes, respuestas y tareas a medio seguir. Al final, es bastante agotador desde el punto de vista psicológico.

Ahí entra Agent 365, la suite con la que Microsoft quiere ordenar todo este nuevo mundo. Nadella menciona Entra, su plataforma de identidad digital y acceso a red, y Purview, que sirve para etiquetar y controlar los datos generados por agentes de IA. Traducido y aterrizado para los que no estén al tanto: Microsoft quiere aplicar a los agentes de IA las mismas reglas básicas que ya existen para cualquier trabajador dentro de una empresa, pero adaptadas a sistemas que no duermen, no se cansan y pueden ejecutar muchas tareas a la vez, con su propia identidad. Nadella lo resumió con otra declaración bastante directa:

“Creo que la seguridad, la contención, la capacidad de gestión y la observabilidad son la forma en la que vamos a tener confianza en torno a estos agentes”.

De hecho, Nadella ve esto como un cambio de plataforma, pasando de Sistemas Operativos y dispositivos centrados en aplicaciones a entornos pensados para agentes. También aparece Project Solara, presentado en Build, como una especie de sistema operativo invisible con Agent Shell, capaz de cargar y adaptar múltiples agentes basados en la nube.

Al final, Microsoft no está diciendo que estos agentes de IA sean empleados humanos (de momento) pero sí está preparando una infraestructura para tratarlos casi como empleados digitales con su identidad, permisos, límites, supervisión y trazabilidad. Y claro, visto lo visto, eso deja una pregunta bastante potente sobre la mesa: cuando una empresa tenga decenas o cientos de agentes trabajando por dentro, el problema ya no será solo lo que pueden hacer, sino quién los controla de verdad y la responsabilidad que tendrá la máquina y el ser humano.

¿Qué pasará si de esas decenas o cientos de agentes uno solo crea un problema crítico en la empresa de turno? ¿Puede un humano pasarse concentrado al 100% las 8 horas correspondientes para evitar este tipo de fallos? La respuesta, salvo casos contados, es un rotundo no. Nadella lo sabe, Microsoft lo sabe, OpenAI y Anthropic son conscientes, así que es cuestión de tiempo que los agentes de IA tengan su identidad, y esperemos, también asuman las consecuencias, así como las empresas que los diseñan. A fin de cuentas, un humano no puede seguir el ritmo de varios agentes de manera mental, siempre termina por fallar por puro cansancio.