El Instituto Neerlandés para la Divulgación de Vulnerabilidades (DIVD) fue víctima de un ciberataque inusual ejecutado por un agente de IA autónomo. Aunque el atacante explotó una vulnerabilidad técnica, el proceso fue descrito como "caótico y torpe", dejando bastantes evidencias debido a una mala configuración de la IA. Actualmente, la organización investiga el impacto del incidente junto con las autoridades policiales y de seguridad cibernética.




El Instituto Holandés de Divulgación de Vulnerabilidades (DIVD) sufrió un ciberataque impulsado por IA que la organización describió como "estruendoso y muy, muy desordenado".

Las pruebas descubiertas durante la investigación en curso indican que el atacante explotó una vulnerabilidad, pero el propósito y el impacto del ataque siguen sin estar claros en esta etapa.

DIVD es una organización sin fines de lucro de investigadores de seguridad voluntarios que escanean internet en busca de sistemas afectados por vulnerabilidades conocidas, notifican a sus propietarios y brindan información sobre cómo mitigar los riesgos.

A finales de la semana pasada, la organización informó que había sido hackeada tras siete años de operaciones sin incidentes, siendo la intrusión llevada a cabo de forma autónoma por un agente de IA.

La organización describió el ataque como "estruendoso y muy muy desordenado", dejando abundantes pruebas para ayudarles a reconstruir lo sucedido, aunque el incidente fue serio.

“Este es un ataque que no habíamos visto antes. No porque sea el primero, sino porque el modus operandi indica que se trata de un ataque impulsado por una IA agéntica”, explicó DIVD [https://www.divd.nl/newsroom/articles/when-no-if/].

La organización inició una investigación e informó a la policía, a la Autoriteit Persoonsgegevens (protección de datos) y al Centro Nacional de Seguridad Cibernética (NCSC).

En una actualización el lunes, DIVD proporcionó información adicional sobre el incidente, pero reservó los detalles completos para evitar influir en la investigación o poner en riesgo a más víctimas.

"El ataque en sí fue estruendoso y muy muy desordenado. Podíamos ver al agente trabajando de forma automatizada, porque después de cada acción decidía el siguiente paso por sí mismo, a la velocidad de la luz y con una lógica o patrón descuidado", afirmó DIVD [https://www.linkedin.com/posts/in-every-crisis-you-work-with-whatever-you-share-7510363577375993856--zPB/].

El actor de la amenaza explotó una “vulnerabilidad técnica” en un sistema no revelado, que DIVD especificó que no era Citrix NetScaler, y luego utilizó un agente de IA automatizado para realizar actividades de post-explotación.

Según los investigadores, el agente de IA hizo "algunas cosas bastante tontas", incluyendo la interferencia con su propio ataque de adversario en el medio mediante password spraying.

El agente trabajó de forma autónoma en la red de DIVD, decidiendo el siguiente paso por sí mismo y explicando excesivamente sus decisiones en sus comentarios.

DIVD cree que el agente estaba mal entrenado y configurado para tales operaciones, dejando atrás suficiente información para ayudar a los investigadores con la ingeniería inversa del incidente.

La organización prometió proporcionar una actualización más detallada el 1 de octubre y notificar a otras posibles víctimas de la misma vulnerabilidad tan pronto como sea posible.

Fuente:
BleepingComputer