El NCSC del Reino Unido advierte que el malware impulsado por IA probablemente atacará infraestructuras críticas hacia 2028, facilitando ataques sofisticados y difíciles de atribuir. Para combatir esto, el gobierno implementará sistemas de defensa automatizados como Cyber Shield y el centro NERV con una inversión millonaria. El organismo insta a las organizaciones a priorizar la ciberseguridad y la resiliencia tecnológica con urgencia.

El Centro Nacional de Seguridad Cibernética (NCSC) del Reino Unido afirma que es "muy probable" que el malware impulsado por IA forme parte de un futuro ataque de ransomware contra la infraestructura nacional crítica de Gran Bretaña entre ahora y 2028.

La advertencia acompaña su revisión anual y una evaluación separada que explora cómo la IA podría cambiar las ciberamenazas en los próximos dos años.

El brazo cibernético de la agencia de inteligencia de señales GCHQ no proporcionó muchos detalles sobre qué forma podría tomar este malware de IA. Sin embargo, aludió a herramientas de seguridad de IA de código abierto que inicialmente estaban destinadas a ayudar a los investigadores de seguridad y que están siendo reutilizadas para actividades nefastas.

Los atacantes ya están reutilizando tales herramientas. Por ejemplo, los investigadores ven cada vez más un abuso generalizado de ARTEX, una plataforma de red-teaming de IA de código abierto fabricada en China, en ataques contra el registrador del Reino Unido 123 Reg, Microsoft 365 y otros desde su lanzamiento en julio.

En su escenario pesimista para 2028, el NCSC prevé "un aumento significativo en la frecuencia y sofisticación de los ciberataques en todo el mundo", ya que la adopción más amplia de herramientas de IA dificulta la atribución.

China "probablemente ha desempeñado un papel" en el suministro de esas herramientas en este futuro, "permitiéndoles ocultar sus actividades dentro del ruido", afirma el informe.

También considera una amenaza adicional: un atacante autónomo que opere más allá del control de su operador humano.

El NCSC dice que "es una posibilidad realista que tal entidad pueda autorreplicarse y realizar ciberataques a voluntad, sin motivación ni restricción aparentes".

Tales ataques probablemente complicarían las relaciones geopolíticas, debido nuevamente a las dificultades de atribución, facilitando que los países que ordenan ataques contra otros nieguen su participación.

Los planes del Reino Unido para la defensa de la IA

En un momento en que cada Patch Tuesday parece llegar cargado con números récord de errores, el NCSC reconoce que la IA ya está cambiando el descubrimiento de vulnerabilidades y el parcheo.

El organismo también está explorando cómo la IA podría ayudar a los defensores a mantener el ritmo. El Proyecto DROMOS comenzó a principios de este año con un piloto de cuatro semanas que analizaba repositorios de código gubernamentales, antes de expandirse a entornos operativos seleccionados.

El Centro de Coordinación Cibernética del Gobierno (GC3) lanzó el proyecto con el Instituto de Seguridad de IA y otros departamentos. El NCSC afirma que descubrió cientos de problemas de seguridad potenciales, incluidas vulnerabilidades críticas.

La revisión también reafirma los planes para Cyber Shield, un sistema de defensa cibernética agéntica adelantado por primera vez en julio.

Se espera que Cyber Shield se entregue en etapas durante los próximos cinco años. Implicará que el NCSC proporcione agentes defensivos desplegados por organizaciones participantes con datos que fortalecerán la resiliencia nacional ante las ciberamenazas actuales.

El NCSC ejecutará el plan junto con el Departamento de Digital, Cultura, Medios y Deporte (DCMS), pero reconoció que este tipo de actividad defensiva automatizada actualmente se encuentra fuera de las tolerancias de riesgo de muchas organizaciones, lo que significa que tiene un papel que desempeñar en la generación de confianza en el sistema antes de que su adopción se generalice.

El gobierno ha reservado 60 millones de libras para financiar la iniciativa, y otros 70 millones de libras para apoyar un nuevo Centro Nacional de Exposición y Vulnerabilidades en Tiempo Real (NERV).

El trabajo del Centro NERV será identificar y mantener una comprensión continua de las vulnerabilidades en las organizaciones de CNI y en la economía en general.

Según el presupuesto de la semana pasada, 40 millones de libras financiarán una Unidad Nacional de Seguridad Agéntica responsable de responder a bots descontrolados y otros percances agénticos, y se asignaron 24 millones de libras para fortalecer las defensas del sector público.

Una suma no revelada también ayudará a establecer un nuevo Centro de Seguridad Cibernética de IA gestionado por el NCSC en Manchester para desarrollar experiencia en seguridad de IA en todo el gobierno.

Mientras tanto, el CEO del NCSC, el Dr. Richard Horne, pide a las organizaciones que "inviertan con urgencia" en su seguridad y resiliencia.

"Durante décadas, colectivamente nos hemos salido con la nuestra haciendo tecnología barata", dijo hoy, al anunciar el informe anual.

"Podemos ser una nación donde los líderes de todas las organizaciones elijan activamente invertir con urgencia... Y donde todas las organizaciones conviertan la seguridad y la resiliencia en un requisito fundamental, no en una reflexión posterior.

El resultado colectivo sería una fuente de fortaleza nacional duradera para todos nosotros".

Horne señaló que las organizaciones deberían tratar la certificación Cyber Essentials del NCSC como el punto de partida, pero escalar los esfuerzos de resiliencia en función del tamaño, la complejidad y el riesgo de la organización.

El gobierno también anunció un descuento del 75 por ciento en la certificación Cyber Essentials para micro, pequeñas y medianas empresas que soliciten su primer certificado. 

Fuente:
TheRegister