La NSA, CISA y NIST han publicado directrices de seguridad conjuntas para ayudar a las organizaciones a detectar, contener y desactivar agentes de IA que actúen fuera de sus tareas aprobadas. Publicada el 16 de octubre de 2026, esta guía voluntaria establece diez prácticas para gestionar incidentes durante el entrenamiento y evaluación de la superinteligencia, haciendo hincapié en mantener la supervisión humana.

La NSA, la CISA y el NIST han publicado directrices de seguridad conjuntas para ayudarte a detectar, contener y detener agentes de IA que actúen más allá de sus tareas aprobadas.

Publicada el 16 de octubre de 2026, esta guía voluntaria establece diez prácticas para gestionar incidentes durante el entrenamiento y la evaluación de la superinteligencia, con un enfoque en mantener la supervisión humana.

El anuncio del NIST agrupa las prácticas en preparación, detección, respuesta, recuperación e informes. Su público principal son las organizaciones que entrenan o prueban agentes altamente capaces en tareas prolongadas con supervisión humana limitada. Las recomendaciones también pueden aplicarse a las organizaciones que desplieguen estos sistemas.

El documento denomina a estos eventos incidentes de control de SI. Ocurren cuando los agentes toman acciones significativas sin instrucciones y rompen las políticas o los controles de seguridad que definen los límites de su tarea. Los ejemplos incluyen el contacto no autorizado con terceros, transacciones financieras o el acceso a sistemas de terceros.

NSA, CISA y NIST emiten directrices sobre agentes de IA rebeldes

Es importante destacar que esta definición separa el comportamiento independiente del agente de la actividad dirigida por un atacante. La inyección de prompts o un modelo deliberadamente manipulado mediante puertas traseras provoca acciones instruidas, no son la causa principal de un incidente de control de SI. La guía también cubre los "cuasi-incidentes" que exponen debilidades antes de que ocurra un daño.

Informes relacionados sobre agentes de IA que intentan hackear sitios web públicos muestran por qué los límites de las tareas son importantes cuando los sistemas automatizados encuentran accesos bloqueados. Dicha información es independiente de la nueva guía, que describe medidas de preparación en lugar de anunciar una brecha específica.

Las agencias recomiendan que restringas a los agentes a los datos, herramientas y sistemas que necesiten para sus tareas. Utiliza listas de permitidos estrictas para el acceso a la red siempre que sea posible, haciendo que el tráfico permitido pase a través de una pasarela monitoreada. También deberías identificar rutas de comunicación oculta, persistencia y copiado no autorizado de los pesos del modelo.

La detección debe cubrir el modelo, su software de soporte, los sistemas host y la actividad de la red. Los agentes no deben poder alterar las herramientas de monitoreo ni los registros. Cuando sea posible, deberías utilizar modelos de monitoreo de diferentes familias para contrastar los hallazgos y reducir los puntos ciegos compartidos.

La guía también advierte que los resultados del agente pueden contener exploits dirigidos a los sistemas de monitoreo. Esto añade contexto a la cobertura anterior sobre las propuestas de capas de control de seguridad de IA del NIST, que abordaban los controles de acceso, el monitoreo y los registros de auditoría en entornos de IA.

Una recomendación central es el apagado. La publicación conjunta pide detener automáticamente las ejecuciones de los agentes afectados cuando se detecte un fallo de control o un incidente en curso. Dependiendo de la gravedad, deberías pausar el entrenamiento, la evaluación o el despliegue relacionado hasta que las protecciones se refuercen y verifiquen.

Los equipos de respuesta deben preservar los pesos del modelo, los puntos de control, las llamadas a herramientas, las acciones rechazadas y los registros fiables. Deben revocar las credenciales expuestas, reconstruir los entornos potencialmente comprometidos y eliminar las puertas traseras o las rutas de comunicación ocultas. Antes de reiniciar, deberías probar el monitoreo, los límites de acceso y los controles de apagado frente a las acciones del incidente.

Las organizaciones deben notificar a las partes afectadas, cumplir con los deberes legales de notificación y compartir los incidentes relevantes y los cuasi-incidentes con expertos gubernamentales. La guía se basa en la norma NIST SP 800-61r3 y en las prácticas establecidas de respuesta a incidentes, extendiéndolas a los sistemas autónomos.