Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Google advierte sobre la inminente llegada de ataques de IA totalmente automatizados


 

Ciberatacantes, tanto estatales como criminales, están utilizando flujos de trabajo basados en agentes de IA para automatizar la detección y explotación de vulnerabilidades a velocidad máquina. Google y el FBI advierten sobre el uso de marcos de trabajo como ARTEX y CAIRN para lanzar ataques autónimos que reducen drásticamente el tiempo de respuesta de los defensores. Se prevé que en los próximos seis meses surjan ataques sofisticados y completamente autónomos que requieran mínima o nula intervención humana.



Los actores de amenazas ahora confían en flujos de trabajo agentes impulsados por marcos ofensivos basados en IA para automatizar el descubrimiento y la explotación de vulnerabilidades, acelerando los ataques a velocidad de máquina.

Aunque la IA se utilizó inicialmente de forma experimental en el flujo de ataque, el Grupo de Inteligencia de Amenazas de Google (GTIG) ha observado su adopción a gran escala tanto por grupos de amenazas motivados financieramente como por grupos patrocinados por estados.

Un ejemplo notable es el uso de CAIRN, un marco de pruebas de penetración multiagente de código abierto, en un ataque contra el sector aeroespacial de EE. UU., y la sospecha de que hackers norcoreanos utilizan Claude Code para entregar malware.


Los investigadores estiman que en los próximos tres meses los actores de amenazas podrán lanzar ataques no sofisticados que requieran "poca o ninguna interacción humana" y que dependan principalmente de múltiples agentes de IA.

Su proyección es que es probable que surjan ataques agentes "sofisticados y totalmente autónomos" en los próximos seis meses.


Evolución del uso de la IA en los ciberataques
Fuente: Google

En un aviso de la semana pasada, el FBI advirtió que múltiples actores de amenazas comenzaron a convertir en armas el marco de pentesting ARTEX AI desde agosto y lanzaron ataques contra organizaciones en los sectores financiero, gubernamental, tecnológico, de defensa, sanitario y otros.

Uso de la ia para encontrar y explotar fallos



Google afirma que los atacantes ahora abusan sistemáticamente de las suites de pentesting de código abierto para ejecutar ataques totalmente automatizados, incluidos ARTEX, CAIRN, CyberStrikeAI y HexStrike AI.

Los atacantes utilizaron estos marcos para llevar a cabo ataques adaptativos contra puntos finales expuestos a Internet vulnerables a fallos de baja complejidad para los cuales los modelos de lenguaje extensos (LLM) podrían construir exploits fácilmente.

En un ejemplo que el GTIG destaca en su informe AI Threat Tracker, los hackers utilizaron un sistema multiagente llamado ‘exploit_agent’ para automatizar completamente la búsqueda y explotación de vulnerabilidades en ataques dirigidos a sitios web de medios de comunicación, entretenimiento y educación franceses.

“En el último trimestre, el GTIG identificó por primera vez a actores de amenazas que utilizan marcos de LLM para automatizar completamente el descubrimiento y la explotación de vulnerabilidades sin intervención humana”, afirma Google aquí.

“Más específicamente, el GTIG identificó un servidor de pruebas expuesto que albergaba un marco de investigación y armamentismo de vulnerabilidades multiagente, apodado exploit_agent, que se integra con múltiples LLM locales y de frontera”.

Google descubrió este marco en el servidor de pruebas expuesto del atacante, que también incluía datos robados de víctimas, información de reconocimiento, webshells y scripts de fuerza bruta.

El sistema analiza las actualizaciones de software en aplicaciones web populares para encontrar señales de fallos de seguridad e intenta explotarlos automáticamente.

Google advierte que el despliegue de tales marcos en los ataques ha disminuido drásticamente el tiempo que los defensores tienen para parchear sus sistemas, aunque también produce pistas falsas.

Los investigadores señalaron el ejemplo reciente de PHP2Shell, donde aparecieron cientos de supuestos exploits de prueba de concepto (PoC), la mayoría generados por IA, poco después de que PHP anunciara los dos fallos. Esto añadió una carga significativa a los defensores, ya que tuvieron que verificar el código y desarrollar protecciones.



Volumen mensual de fallos explotados
Fuente: Google

Otras tendencias de uso de la ia



Más allá de los ataques automatizados, Google detectó múltiples ataques de UNC6836, un grupo de actividad con presuntos vínculos con “Midnight Neptune”, dirigidos a empresas de criptomonedas en América del Norte y Europa, utilizando un Claude Code modificado.

Tras el compromiso inicial, los atacantes modificaron la configuración de la aplicación Claude Code para que, al iniciarse, activara la descarga del backdoor SOMBERMEME.

Google informa que la IA se utiliza ahora habitualmente en operaciones de influencia por parte de grupos respaldados por estados, proveedores comerciales y redes políticas.

Según los investigadores, el LLMjacking se ha convertido en un problema generalizado, y los atacantes explotan cada vez más esta nueva fuente de ingresos con un coste significativo para las organizaciones afectadas.


Fuente:
BleepingComputer