Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Google detecta el uso de agentes de IA para crear y ejecutar exploits tras parches de software


Google advirtió que los ciberdelincuentes ahora usan marcos de IA autónomos y multiagentes para ejecutar intrusiones a velocidad de máquina. Estas herramientas permiten automatizar el análisis de vulnerabilidades y la creación de exploits rápidamente, reduciendo el tiempo entre un parche y su explotación. Además, se observa el robo de credenciales de IA para su reventa y el uso de chatbots para facilitar campañas de phishing a actores sin conocimientos técnicos.





Google reveló el lunes que el uso adversarial de la inteligencia artificial (IA) por parte de actores de amenazas ha ido más allá de las instrucciones manuales para desplegar marcos ofensivos autónomos multi-agente como ARTEX, CAIRN, CyberStrikeAI y PentAGI para ejecutar intrusiones de múltiples etapas a una velocidad operativa mayor.

En paralelo, los actores de amenazas están aprovechando el poder y las capacidades de los modelos de lenguaje extensos (LLM) y los marcos agenticos para automatizar la ingeniería inversa de los parches mediante el análisis diferencial, lo que les permite convertir rápidamente en armas vulnerabilidades recién reveladas, como se observó en el caso de los fallos de PaperCut NG/MF a principios de este septiembre.

El abuso de los marcos de pruebas de penetración (pentesting) agenticos de código abierto se ve como una forma de "automatizar fases discretas y tareas operativas específicas durante intrusiones en vivo", afirmó el Grupo de Inteligencia de Amenazas de Google (GTIG) en un informe compartido con The Hacker News.

El gigante tecnológico señaló que esta adopción representa un cambio de paradigma en el que los ciberataques ocurren a velocidad de máquina, lo que permite que las operaciones se escalen significativamente encadenando diversas rutas de ataque, aunque la mecánica subyacente siga siendo la misma.

Se ha observado a varios actores de amenazas experimentando con estos marcos y herramientas, incluyendo actores motivados financieramente y sospechosos de espionaje alineados con China.

"Estas observaciones se extienden además al uso de otras herramientas y servicios, como ZeroHollow, un servicio de inferencia utilizado para el desarrollo de exploits y el enrutamiento de LLM, y Agent Zero, un marco de agentes de código abierto que cuenta con ejecución autónoma de código y generación dinámica de herramientas", afirmó Google.


Otra área clave de mal uso



Otra área clave de mal uso gira en torno a la automatización de tareas laboriosas como el análisis de vulnerabilidades y la creación de armas de prueba de concepto (POC) utilizando flujos de trabajo impulsados por LLM, lo que permite a los atacantes reducir la ventana de tiempo entre la divulgación del parche y la explotación activa.

"Los actores de amenazas pueden encontrar más eficiente el uso de LLMs para convertir rápidamente en armas vulnerabilidades n-day parcheadas, ya que pueden centrar su investigación en un conjunto finito de materiales de origen: comparando versiones de código fuente (incluidas las de canales de pre-lanzamiento o vista previa), y examinando notas de lanzamiento, investigaciones de seguridad y código POC relacionado con fallos específicos", añadió Google.

Simultáneamente, los actores de amenazas también están atacando la infraestructura de IA para obtener beneficios ilícitos mediante ataques de LLMjacking, robando credenciales de LLM y recursos en la nube de entornos empresariales comprometidos, para luego revender el acceso a través de servicios de proxy clandestinos como APIMart y JetNight a precios reducidos, también conocidos como mezcladores de LLM.

Los hallazgos muestran que la aparición de marcos de código abierto ha reducido aún más la barrera de entrada, permitiendo que los malos actores integren fácilmente nuevos exploits, escalen ataques de forma autónoma y monten campañas de phishing convincentes, comprimiendo aún más los plazos de ataque.

Esto incluye una plataforma de phishing en idioma chino llamada Jieyou que ha integrado un asistente de chatbot LLM para permitir que sus clientes configuren paneles de phishing y modifiquen plantillas existentes utilizando comandos de lenguaje natural sin necesidad de tener los conocimientos técnicos para hacerlo.

"La evolución de la plataforma Jieyou resalta una tendencia creciente en la industria donde los proveedores de PhaaS aprovechan los LLM como un multiplicador de fuerza modular", dijo Google. "En lugar de editar manualmente los payloads, los afiliados poco cualificados ahora pueden utilizar el lenguaje natural a través del chatbot para personalizar dinámicamente los señuelos y las interfaces de phishing sobre la marcha".

Fuente:
THN