OWASP ha publicado el informe "State of Agentic AI Security and Governance v2.01", un plan técnico diseñado para ayudar a los equipos de seguridad a proteger los agentes de IA autónomos que se están implementando rápidamente en entornos de producción. Este documento, perteneciente a la Iniciativa de Seguridad Agéntica del Proyecto de Seguridad GenAI de OWASP, plantea la seguridad de la IA como una realidad operativa y no solo como una preocupación teórica.

OWASP ha publicado el informe “State of Agentic AI Security and Governance v2.01”, un plan técnico dirigido a los equipos de seguridad que compiten por asegurar la rápida proliferación de agentes de IA autónomos en producción.

El informe, parte de la Iniciativa de Seguridad Agéntica del Proyecto de Seguridad GenAI de OWASP, redefine la seguridad de la IA como una realidad operativa en lugar de una preocupación teórica, respaldada por incidentes reales, CVE y un agresivo ecosistema de código abierto en torno a los marcos de agentes y agentes de programación.

A nivel estratégico, OWASP sostiene que la seguridad de la IA y la protección de la IA no pueden tratarse como disciplinas separadas una vez que los sistemas adquieren autonomía y acceso a herramientas.

En entornos tradicionales, los fallos de seguridad (sistemas que se comportan de forma perjudicial por sí mismos) y los fallos de protección (explotación adversaria) podrían ser gestionados por equipos diferentes; la IA agéntica colapsa esa frontera en la capa de despliegue.

Cuando un agente puede invocar APIs de forma autónoma, modificar código y tocar datos de producción, la misma elección de diseño excesivamente permisiva se convierte tanto en un fallo de seguridad como en una brecha de protección.

Informe de Seguridad de IA de OWASP con Nuevas Herramientas

Gobernanza, monitoreo y respuesta a incidentes en ambos modos de fallo, en lugar de canalizarlos a través de taxonomías de riesgo y rutas de escalada desconectadas.

El informe introduce una taxonomía detallada para los sistemas agénticos, clasificándolos por rol operativo, tales como empresariales, de programación, orientados al cliente, personales y de infraestructura/operaciones.

También los categoriza por patrón de implementación y patrón de composición, incluyendo marcos de orquestación, plataformas de bajo código, sistemas de agente único, sistemas multi-agente, cadenas distribuidas y arquitecturas de generación de agentes.

La autonomía se trata como una dimensión transversal: los agentes supervisados, los agentes semi-autónomos y los agentes totalmente autónomos conllevan radios de impacto muy diferentes, especialmente cuando se combinan con memoria persistente y permisos amplios de herramientas.

OWASP insta a las organizaciones a mapear explícitamente los niveles de autonomía de los agentes e implementar interruptores de seguridad (circuit breakers), botones de apagado (kill switches) y ganchos de ejecución deterministas para despliegues de alta autonomía.

El informe también fundamenta su guía en una encuesta del ecosistema de proyectos agénticos de alta velocidad, destacando dónde deben centrar los equipos de seguridad el monitoreo y el seguimiento de avisos.

Gravitas, con aproximadamente 183,000 estrellas, es citado como un marco/plataforma totalmente autónomo que fue pionero en los bucles de agentes autónomos y que ahora cuenta con más de 430 colaboradores.

n8n, también con unas 183,000 estrellas, es una plataforma de orquestación empresarial semi-autónoma con 6 años de evolución de grado de producción y más de 570 versiones, adaptada recientemente para flujos de trabajo agénticos.

Dify, con aproximadamente 137,000 estrellas y 462 colaboradores, destaca por tener uno de los volúmenes más altos de solicitudes de extracción (pull requests), lo que indica una iteración rápida y una posible rotación de la superficie de ataque.

En el frente de los agentes de programación, Claude Code (Anthropic) se describe como un agente de programación semi-autónomo con alrededor de 110,000 estrellas, que lanza aproximadamente una versión por día y ya está asociado con 22 CVE publicados, convirtiéndolo en la CLI de más rápido crecimiento en el conjunto de datos.

Gemini CLI de Google, con unas 100,000 estrellas, 445 colaboradores y 676 nuevos problemas abiertos en un periodo de 90 días, muestra una aceleración similar en la adopción por parte de los desarrolladores y en la presión por el descubrimiento de vulnerabilidades.

Agentes de infraestructura y operaciones como browser-use (alrededor de 80,000 estrellas, automatización de navegador totalmente autónoma con una densidad de commits extremadamente alta).

Skyvern (aproximadamente 18,000 estrellas, totalmente autónomo con una tasa de fusión de PR del 77%) ejemplifica las categorías de alto riesgo en las que los agentes conectan directamente con navegadores, la nube y entornos de CI/CD.

El ecosistema también incluye herramientas de edición y programación semi-autónomas como Zed (~79,000 estrellas, nativo en Rust con más de 1,000 versiones rastreadas y múltiples avisos de seguridad).

OpenHands (~71,000 estrellas, agente de programación totalmente autónomo con una de las canalizaciones de pull-request más activas). Cline (~62,000 estrellas, semi-autónomo con 11 CVE publicados y más de 1,000 PR abiertos cada 90 días).

crewAI (~48,000 estrellas como marco semi-autónomo con un crecimiento de commits del 126%) y Aider (~38,000 estrellas, semi-autónomo con una tendencia ascendente de commits del 21% y una base de colaboradores creciente).

Agentes personales como AgentSeek de Fosowl (~15,000 estrellas, supervisado con un crecimiento de commits del 67% en 90 días) ilustran cómo la “IA en la sombra” (shadow AI) puede filtrarse en las empresas a través de los dispositivos de los usuarios, saltándose la gobernanza tradicional.

Para los defensores, el mensaje de OWASP es tratar la IA agéntica como un dominio de seguridad de primer nivel. Inventaría los agentes en todo este ecosistema, rastrearía los avisos y CVE en proyectos de alta velocidad y alinearía los despliegues con el Top 10 de Seguridad Agéntica de OWASP y su nuevo modelo de madurez de gobernanza.

Dado que los agentes autónomos ahora tocan la infraestructura de producción, los programas de seguridad deben pasar de evaluaciones de modelos aisladas a una supervisión continua en tiempo de ejecución y a la procedencia de la cadena de suministro para los componentes de IA.

Controles sólidos de identidad no humana antes de que los atacantes y los agentes que se comportan mal definan la superficie de riesgo para ellos.

Fuentes:
https://cybersecuritynews.com/owasp-ai-security-report-with-new-tools/