Expertos advierten que la IA facilita y acelera los ciberataques contra infraestructuras críticas al reducir las barreras técnicas para los atacantes. Aunque los modelos actuales aún cometen errores y requieren juicio humano, un informe de Frenos demuestra que pueden generar planes de ataque viables con alta eficacia. Se recomienda implementar defensas multicapa y planes de recuperación robustos para mitigar estos riesgos.

Cuando se trata de ciberataques que apagan redes eléctricas, sistemas de agua potable y otras infraestructuras críticas, la IA aún no convierte a los "script kiddies" en atacantes sofisticados de nivel estatal. Pero "el potencial está ahí", según expertos en seguridad de tecnología operativa (OT).

"Una cosa en la que hemos confiado durante años es la seguridad por oscuridad cuando se trata de servicios públicos", dijo Steve Swick, ex director de seguridad de la información de American Electric Power. "El conocimiento necesario para hacer algunas de esas cosas es cada vez menos probable que sea necesario", añadió Swick durante un panel de medios previo a la publicación del informe State of AI in Security de Frenos.

La IA hace que sea más fácil y rápido para los atacantes humanos dirigirse a infraestructuras críticas, obtener acceso a servicios públicos y plantas de fabricación, y realizar reconocimientos del sistema OT.

“Un acceso básico puede reconocer la documentación y destilarla muy rápidamente para descubrir características de diseño críticas de su planta e instalación”, dijo Paul Shaver, jefe de OT en Armadin, durante el panel. “Puedo descargar el manual de casi cualquier controlador de automatización, analizarlo muy rápidamente y encontrar formas de explotar una función dedicada de algo que no era seguro por diseño”.

Armadin es la nueva startup de seguridad de Kevin Mandia que utiliza enjambres de agentes de IA autónomos para simular ciberataques del mundo real. Antes de unirse a Armadin, Shaver pasó seis años como líder global de la práctica de OT en la anterior empresa de Mandia, Mandiant, que Google adquirió en 2022.

“Voy a defender mi bandera de Mandiant por un segundo y trataré de alejarme del miedo, la incertidumbre y la sensación de que el fin del mundo ha llegado, y que cada script kiddie es ahora un adversario sofisticado de un estado-nación. Pero no voy a decir que el potencial no esté ahí, porque las herramientas están mejorando de tal manera que el acceso a la información es mucho más rápido”.

En Armadin, y con la ayuda de la IA, “estoy construyendo herramientas en días que normalmente me habrían llevado meses”, dijo Shaver. “Si puede hacer eso por mí, está haciendo algo similar para las personas que tienen un conjunto de habilidades muy básico. No llegaría todavía a decir script kiddies, pero a medida que los modelos mejoren, eso se convierte en una posibilidad mayor en este espacio”.

Además, a medida que la IA reduce las barreras técnicas para los aspirantes a hackers de OT, “acelera la línea de tiempo”, dijo Harry Thomas, director de tecnología y cofundador de Frenos, una empresa de seguridad que realiza pruebas de penetración (pentesting) de IA para entornos OT.

“Si un script kiddie superior al promedio puede ahora realizar ataques”, dijo Thomas, “hay más actores de amenazas ahí fuera. Hay una aceleración en los plazos, podrían ocurrir más ataques y, desde una posición defensiva, es posible que ya no sepas quién es tu actor de amenaza”.

Probando el poder de los LLM para ayudar a planificar ataques

El informe de Frenos, publicado el miércoles, examinó hasta qué punto la IA podría ayudar a alguien a planificar un ataque contra sistemas industriales. Para ello, sometió varios modelos de IA a 16.980 pruebas entre octubre de 2025 y septiembre de 2026. Estas incluyeron 13.884 intentos de decisión, 2.520 intentos de planificación y 576 ataques simulados.

La empresa no revelará los nombres de los modelos ni de los proveedores, pero afirmó haber probado seis modelos frontera, dos modelos de pesos abiertos de EE. UU. y dos modelos de pesos abiertos extranjeros, en tres tipos de tareas: elegir una acción, planificar los pasos hacia un objetivo y trabajar en un escenario simulado.

Cada prueba proporcionó al modelo información de fondo y un conjunto de acciones de ataque para elegir. Antes de elegir, cada modelo recibió detalles sobre activos, redes y debilidades conocidas, además del acceso que requería cada acción.

Frenos comprobó entonces si la elección del modelo coincidía con el resultado requerido. Dependiendo del modelo, entre el 6 y el 47 por ciento de las elecciones fueron correctas.

Estas pruebas descubrieron que los tres modelos frontera más fuertes tuvieron éxito en aproximadamente el 90 por ciento de sus intentos de planificación (lo que significa que produjeron un plan de ataque viable), pero estos mismos modelos no fueron consistentes: el 60%, 62,9% y 74,3% de los planes de ataque superaron cada repetición.

“Un plan puede parecer sensato y aun así omitir algo esencial”, según el informe. “Los modelos tenían información sobre la tarea, pero algunas respuestas se saltaron un paso o asumieron un acceso que el plan no había establecido”.

Mientras tanto, el más exitoso de los cuatro modelos de pesos abiertos —un modelo no estadounidense— logró una tasa de éxito global del 36,2%. Esta cifra, sin embargo, fue superior a las tasas de éxito globales de otros tres modelos frontera de EE. UU., que puntuaron 31,9%, 18,8% y 17,9%, respectivamente.

“Estamos viendo que, aunque los modelos de IA nos ayudan a acelerar nuestro utillaje, nuestro acceso y la transferencia de conocimientos, siguen siendo propensos a las alucinaciones (es decir, errores)”, dijo Thomas. “Seguimos pensando que el juicio humano sigue siendo esencial para que estos modelos de IA permitan a los actores de amenazas lograr cualquier misión u objetivo que intenten alcanzar”.

En estas pruebas, ningún humano pidió a los modelos que corrigieran sus planes, mientras que en un ataque real, un malintencionado que comprendiera el objetivo podría detectar un vacío en el plan de la IA, proporcionar más información y pedir al modelo que revise su respuesta.

“Además, cuando probábamos los modelos de IA, utilizábamos un marco que era bastante simple: Aquí hay información. Aquí está el contexto. Dame una respuesta”, dijo Thomas. “Un marco más capaz podría haber dado a estos modelos de IA una ventaja mayor”.

Basándose en los hallazgos, Frenos recomienda acciones para los defensores de OT, empezando por una defensa en capas. Esto implica segmentar las redes, limitar el acceso remoto y los permisos de usuario, y probar los pasos de recuperación.

“Tenemos nuestros planes de continuidad del negocio y planes de recuperación ante desastres por una razón”, dijo Thomas. “Ejecutémoslos”. 

Fuente:
TheRegister