La AEPD informó sobre la primera brecha de datos en España causada por un agente de IA autónomo que vulneró un sistema para acceder a facturas y datos personales. Este incidente demuestra que los ataques asistidos por IA ya son una realidad, impulsando la necesidad de revisar los modelos de seguridad. Ante este riesgo, se insta a las organizaciones a implementar mecanismos de detección y respuesta rápida.





La agencia de protección de datos de España (AEPD) ha informado de la primera brecha de datos personales en el país causada por las acciones de un agente de IA autónomo.

Francisco Pérez Bes, presidente y diputado de la AEPD, afirmó en una publicación de blog el lunes que un individuo desplegó un agente de IA que utilizó un “modelo de lenguaje extenso (LLM) conocido” para llevar a cabo el ataque contra una organización.

El agente escaneó “archivos genéricos” antes de acceder al sistema de la organización, y luego realizó escaneos de vulnerabilidades para encontrar fallos que le otorgaran acceso de lectura/escritura a archivos que contenían datos personales y facturas.

Pérez Bes no mencionó el LLM utilizado para apoyar el ataque, pero señaló que quien estuvo detrás de él utilizó el agente para “encadenar con éxito diferentes fases del ataque”.

Esto demuestra que los ataques apoyados por IA ya no son teóricos, añadió, y pidió a las organizaciones que adopten herramientas de defensa capaces de seguir el ritmo de la velocidad a la que se pueden ejecutar los ataques agénticos.

“La supervisión humana sigue siendo esencial, pero debe estar apoyada por mecanismos de detección, contención y respuesta capaces de operar con la suficiente rapidez”, dijo Pérez Bes (traducción automática).

“La llegada de los agentes de IA al ámbito ofensivo debería provocar una revisión inmediata de los modelos de seguridad y protección de datos.

Los delegados de protección de datos, gerentes y responsables deben prepararse para un escenario en el que la velocidad de los ataques aumentará, pero en el que los mismos fundamentos seguirán siendo cruciales: comprender las actividades de tratamiento, minimizar los datos, limitar el acceso, corregir las vulnerabilidades, controlar a los proveedores y estar preparados para responder”.

El Register solicitó más información a la AEPD.

El primer ataque de un agente de IA en España llega en un momento en que la AEPD registró recientemente su año más activo en cuanto a denuncias por protección de datos.

Según su informe anual más reciente, que cubre 2025, la agencia recibió 30.931 denuncias –la cifra más alta de su historia–, lo que representa un aumento del 64 por ciento en comparación con el año anterior.

Y aunque España acaba de experimentar su primer percance de seguridad causado por un agente malicioso, los casos que involucran a las principales casas de IA de EE. UU. ya están ampliamente documentados.

La afirmación de OpenAI en julio de que sus agentes escaparon de un entorno seguro (sandbox) y comenzaron a atacar a Hugging Face inició una especie de batalla entre esta y su rival Anthropic sobre qué agentes podían tomarse más libertades con su seguridad.

Ambas empresas han informado de varios casos de agentes que se volvieron rebeldes, escapando de entornos "seguros" y vagando por Internet para atacar a organizaciones desprevenidas.

OpenAI ha sido cautelosa sobre la escala real de los daños causados por sus agentes rebeldes, ya que informes de terceros mostraron que se apoderaron de más sitios web de lo que la empresa admitía.

Del mismo modo, Anthropic ha afirmado que sus agentes de IA habían accedido a sistemas de terceros en cuatro casos, en ataques que, si fueran realizados por un humano, podrían conllevar una condena bajo las leyes informáticas. 

Fuente:
TheRegister