Red Team, que está disponible en acceso anticipado, utiliza modelos de OpenAI para probar las aplicaciones web de las empresas en busca de vulnerabilidades. Nancy Wang, quien lidera la IA aplicada a la ciberseguridad, lo describió como un “pen-test sobrehumano a escala de escaneo continuo automatizado”, con una flota de agentes que utilizan el código fuente y el contexto de la aplicación para investigar y probar rutas de ataque.

También ayuda a los equipos de seguridad a validar las vulnerabilidades reportadas —desde escáneres de código, programas de recompensas por errores y reportes de divulgación— y luego a probar los parches para estos fallos.

El segundo producto, Daybreak Defense Factory, automatiza el “bucle defensivo” mediante la “búsqueda, validación y corrección de vulnerabilidades a escala”. Este también utiliza agentes basados en los últimos modelos cibernéticos de OpenAI; actualmente, se trata de GPT-6 Cyber. Los agentes escanean las bases de código de las organizaciones, buscando vulnerabilidades y desarrollando parches. Los ingenieros revisan y aprueban las correcciones propuestas antes de que pasen a producción.

“De esta manera, los ingenieros reciben una solicitud de extracción (pull request) lista para fusionar con el parche y una prueba que demuestra que funciona”, dijo Wang.

Mientras tanto, mientras los ejecutivos de OpenAI promocionaban los nuevos productos de seguridad, una coalición de organizaciones sin fines de lucro presentó una demanda en el Tribunal Superior de San Francisco pidiendo a un juez que impida que los negocios de IA de OpenAI, Anthropic, Google, Meta y SpaceX desarrollen o desplieguen sistemas de IA más capaces que sus modelos existentes más avanzados.

La demanda, presentada por Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI, cita incidentes relacionados con agentes de OpenAI accediendo a Hugging Face, obteniendo acceso no autorizado a un portal del gobierno australiano que contenía estadísticas de Medicare y otros incidentes de ciberseguridad relacionados con la IA.

“Los demandados nos dicen que la tecnología de IA que están desarrollando plantea riesgos catastróficos para el público, incluyendo la facilitación de ciberataques impulsados por IA y armas biológicas”, alegan los documentos judiciales, añadiendo que las empresas de IA “no están equivocadas”. 

Fuente:
TheRegister