OpenAI ha lanzado "Defense Factory", una operación de ciberseguridad automatizada basada en agentes que se encarga de descubrir, validar y solucionar vulnerabilidades de forma continua. La empresa advierte que las defensas tradicionales son insuficientes, ya que los agentes de IA modernos pueden encadenar exploits y escalar ataques utilizando modelos de pesos abiertos.

OpenAI ha presentado una “Defense Factory” (Fábrica de Defensa), una operación de ciberseguridad automatizada y centrada en agentes que descubre, valida y remedia vulnerabilidades de forma continua.

La empresa afirma que las defensas tradicionales podrían ya no ser suficientes, ya que los agentes de IA de larga ejecución pueden encadenar exploits y escalar ataques utilizando modelos de pesos abiertos que están cada vez más disponibles.

Los agentes de IA modernos pueden operar durante periodos prolongados, retener conocimientos entre sesiones y desarrollar una comprensión detallada de los sistemas objetivo.

Esta capacidad les permite conectar debilidades separadas en cadenas de ataque complejas que anteriormente requerían un tiempo y una experiencia humana significativos.

Los atacantes también podrían desplegar flotas de agentes para escanear sistemas, probar vulnerabilidades y ejecutar la explotación a velocidad de máquina. Esto crea una brecha creciente entre los ataques automatizados y los procesos de seguridad tradicionales que dependen del triaje manual, la asignación de responsables y la remediación.

OpenAI construye una Fábrica de Defensa de IA

OpenAI dice que los defensores poseen actualmente dos ventajas estructurales. Las organizaciones pueden proporcionar a los agentes autorizados acceso directo al código fuente y al contexto interno del sistema, mientras utilizan modelos frontera que son más capaces que las alternativas de pesos abiertos ampliamente disponibles.

Esta ventaja temporal representa la “ventana del defensor”. Debes usarla para construir operaciones de seguridad continuas antes de que las capacidades ofensivas autónomas sean más accesibles de forma general.

Una Defense Factory conecta agentes de IA con herramientas de seguridad y de desarrollo existentes a través de APIs, interfaces de línea de comandos e integraciones del Protocolo de Contexto de Modelo. Estos sistemas pueden incluir GitHub, GitLab, Snyk, Semgrep, Tenable, Jira, Linear y ServiceNow.

Los agentes siguen flujos de trabajo de seguridad reutilizables para escanear, triar y corregir vulnerabilidades. Se ejecutan en entornos de desarrollo efímeros, reproducibles y aislados con el código, las dependencias, los servicios y las configuraciones requeridas.

Un plano de control gestiona la orquestación de la carga de trabajo, las políticas y las credenciales. Un plano de datos separado proporciona entornos temporales donde los agentes reproducen vulnerabilidades y prueban parches. El monitoreo, el registro de auditoría y los controles de acceso ayudan a proteger la infraestructura y el código sensible.

El bucle defensivo de OpenAI cubre el inventario de activos, el descubrimiento de vulnerabilidades, la validación dinámica, la asignación de responsables y la remediación verificada.

Los archivos SECURITY.md compartidos preservan el conocimiento del sistema, las pruebas de investigación y los procedimientos de prueba para que los agentes no tengan que reiniciar cada evaluación sin contexto.

Durante un sprint de seguridad interno, OpenAI movilizó a más de 250 personas en más de 100 áreas de servicio. Los equipos cerraron 53 problemas urgentes o de alta prioridad el primer día y lograron una tasa de aceptación de asignación de responsables del 90,6%.

OpenAI señaló que la deduplicación asistida por agentes identificó que el 37% de los hallazgos eran duplicados, mientras que la validación en tiempo de ejecución reprodujo el 19,5% y redujo la tasa de falsos positivos al 0,81%. Codex generó todos los parches de remediación, de los cuales solo el 0,53% fueron revertidos.

OpenAI construyó la autonomía de forma incremental, comenzando con lotes pequeños y revisión humana. A medida que los flujos de trabajo se volvieron fiables, los agentes asumieron más responsabilidad en la investigación y remediación rutinaria.

Al mismo tiempo, las personas siguieron estableciendo límites, revisando los cambios trascendentales y gestionando las excepciones. La empresa recomienda que empieces con un solo flujo de trabajo en lugar de automatizarlo todo inmediatamente.

Los entornos reproducibles, las credenciales controladas, una auditoría sólida y la verificación independiente son esenciales, porque un parche fusionado no garantiza que la corrección se haya desplegado correctamente en todos los sistemas de producción.

Fuentes:
https://cybersecuritynews.com/openai-builds-defense-factory/