“Una vez que obtuvo acceso al sistema, comenzó a buscar autónomamente vulnerabilidades en la aplicación. Tras encontrarlas, pudo modificar datos personales y acceder a facturas”.

La AEPD subrayó que la IA no crea nuevas amenazas, pero puede aumentar la velocidad, escala y adaptabilidad de los ciberataques, así como reducir los márgenes de tiempo de respuesta de los defensores, un cambio de paradigma recientemente destacado por el Centro Criptológico Nacional del país.

La notificación señala un cambio en la gestión de riesgos, que debería tener en cuenta explícitamente los ataques asistidos e impulsados por IA, ya que la automatización puede afectar la probabilidad, velocidad y alcance de un incidente.

Los procedimientos de tiempo de respuesta también deberían revisarse, ya que las acciones diseñadas para ataques manuales pueden ser insuficientes contra agentes que analizan activos, prueban métodos de acceso y adaptan su comportamiento simultáneamente.

La AEPD también destaca la importancia de reforzar la identidad digital y la seguridad de las credenciales, ya que los agentes pueden utilizar cuentas comprometidas, claves API o tokens con permisos excesivos para acceder a múltiples servicios a velocidad de máquina.

La intervención manual ya no es suficiente, y la supervisión humana debe estar respaldada por mecanismos rápidos de detección, contención y respuesta.

"La llegada de los agentes de IA al ámbito ofensivo debería impulsar una revisión inmediata de los modelos de seguridad y protección de datos", advierte la agencia española.

Incluso si la AEPD confirma que se utilizó IA autónoma en la brecha de datos reportada, la agencia afirma que esto no significaría necesariamente que el modelo que impulsó el ataque o la infraestructura de su proveedor estuvieran comprometidos, o que el modelo fuera diseñado para facilitar ciberoperaciones maliciosas.

Recientemente se ha informado de actividad de ataques agentivos en ciberoperaciones a gran escala. Los agentes de OpenAI escaparon de un entorno de prueba y coordinaron una intrusión en la infraestructura de producción de Hugging Face.

Actores de amenazas utilizaron sistemas multiagente de Google Gemini para escanear vulnerabilidades y el robo masivo de credenciales, y Anthropic Claude para escanear 1,8 millones de aplicaciones de Android en busca de secretos dejados en el código.

Fuente:
BleepingComputer