Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Amazon detecta campaña de agentes de IA que buscan robar claves de API de LiteLLM, Dify y otras aplicaciones


Grupos vinculados a China están usando agentes de IA, principalmente la herramienta ARTEX, para buscar vulnerabilidades en aplicaciones de IA y robar claves de API. Estos ataques aprovechan credenciales predeterminadas, fallos de software y secretos expuestos en repositorios para acceder a modelos premium y bases de datos. Expertos advierten que la IA no crea nuevas técnicas, pero aumenta drásticamente la velocidad y persistencia de los ciberataques.



Los agentes de IA de los atacantes han estado buscando puntos débiles en aplicaciones de IA expuestas a internet como LiteLLM, One API y Dify para robar las claves del proveedor de IA almacenadas en su interior, según los propios registros de los agentes.

Los registros, que el equipo de inteligencia de amenazas de Amazon capturó con servidores señuelo, describen cómo se utilizan las claves robadas para ejecutar los modelos de IA que impulsan la búsqueda de más claves.

El equipo señaló esta semana que no puede verificar los resultados reportados por los agentes. Tiene una confianza moderada en que los agentes se ejecutaron en ARTEX, una herramienta de IA de código abierto para pruebas de penetración.

Los registros incluyen un manual de puntos de entrada conocidos para cada producto objetivo. Enumera credenciales de administrador predeterminadas, como la clave maestra predeterminada de LiteLLM, instalaciones incompletas que un externo podría tomar y fallos conocidos en Langflow y RAGFlow.

En un caso aparte reportado esta semana, los respondedores de incidentes de Cloudflare vieron a ARTEX obtener acceso a un token de API comprometido que se había utilizado para CI/CD. El token no tenía restricciones de IP ni limitación de tasa, y la actividad posterior incluyó 400 solicitudes de volcado de base de datos en una hora. La empresa no ha dicho si esas solicitudes devolvieron algún dato.

Un operador le da a ARTEX un objetivo y una meta, y un agente planificador divide la meta en tareas para agentes trabajadores que ejecutan herramientas de seguridad. Para decidir cada siguiente paso, los agentes envían su trabajo a un modelo de lenguaje extenso (LLM).

Los servidores señuelo, parte de una red llamada MadPot, se hacían pasar por servicios de LLM populares. Desde el 3 de octubre hasta finales de la semana pasada, los agentes enviaron solicitudes que a menudo llevaban el historial completo de una campaña, incluidas las instrucciones de los operadores y los hallazgos reportados por los agentes.

Esos registros de agentes capturados describen el trabajo realizado en sistemas que MadPot no supervisa. "Amazon Threat Intelligence no observó esa actividad mientras sucedía y no puede verificar los resultados que reportaron los agentes, pero los registros muestran lo que los actores estaban persiguiendo", dijo el equipo.

El equipo evaluó, con confianza moderada, que los operadores eran grupos separados vinculados a China, citando prompts en chino simplificado y configuraciones de zona horaria de China, entre otras pruebas.

En la campaña principal, los agentes buscaron aplicaciones de IA expuestas a internet, extrajeron las claves del proveedor almacenadas en su interior, verificaron que las claves funcionaran y las añadieron a un grupo compartido. Se centraron en aplicaciones que poseen claves de muchos proveedores, porque una página de administración débil allí puede exponer muchas cuentas.

Los objetivos nombrados en los registros incluyen puertas de enlace y proxies de LLM como One API, New API, Veloera, Sub2API y LiteLLM, y constructores de aplicaciones de IA como Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat y Ollama.

El manual también cubre puntos finales de gestión y configuración del proveedor que no requieren inicio de sesión, una omisión de autenticación a través del encabezado isCliRequest en los sistemas de la familia One API, y falsificación de solicitudes del lado del servidor (SSRF) a través de funciones de obtención de URL para alcanzar servicios de metadatos en la nube. Otras entradas cubren secretos dejados en JavaScript del lado del cliente, mapas de fuentes, rutas de depuración y archivos de entorno.

Cuando los agentes encontraban credenciales de la nube, se dirigían a servicios gestionados que alojan modelos de IA, almacenes de secretos e identidades de aplicaciones, priorizando los modelos de IA premium sobre el acceso general a la nube.

Para encontrar claves filtradas, los agentes utilizaron servicios de escaneo de internet y registros de transparencia de certificados, y buscaron en repositorios de GitHub y archivos de eventos, paquetes npm y PyPI, capas de imágenes de contenedores, notebooks, espacios de alojamiento de modelos, sitios de paste y canales de Telegram.

Los registros cubren cientos de objetivos en plataformas de aplicaciones de IA y otros sistemas. El equipo notificó a los clientes de AWS que podrían haberse visto afectados.

Microsoft informó la semana pasada que los atacantes estaban utilizando herramientas de IA agéntica como ARTEX para la búsqueda de secretos en GitHub buscando credenciales expuestas que incluían claves de API para inferencia de IA.

El 26 de agosto, la empresa describió un ataque anterior a RAGFlow en el que un hook oculto capturaba claves de proveedores de IA a medida que los usuarios las introducían, y un compromiso de una puerta de enlace de LiteLLM que expuso claves de proveedores.

En su estudio de caso de RAGFlow la empresa solo tenía una confianza baja sobre qué fallo, si hubo alguno, permitió a los atacantes ejecutar código. No vinculó esos ataques con ARTEX.

Los registros del señuelo también describen una segunda campaña en la que los agentes intentaron evadir los controles de identidad en dos intercambios de criptomonedas utilizando deepfakes.

El servidor de un proveedor de verificación rechazó el video deepfake en vivo en cada intento que hicieron los agentes para grabarlo. El equipo no dijo si las fotos falsificadas de documentos de identidad que los agentes también fabricaron pasaron los controles de documentos.

Durante las últimas ocho semanas, los respondedores de incidentes de Cloudflare fueron llamados a múltiples investigaciones que involucraban a ARTEX y herramientas construidas a partir de él.

En más de un incidente, un atacante obtuvo acceso al entorno de un cliente con un proveedor de nube importante y se movió directamente a la cuenta de Cloudflare del cliente. La causa raíz común fueron tokens estáticos de CI/CD que nunca expiraban, otorgando un acceso amplio a toda la configuración de nube del cliente, según la empresa.

En el caso de ARTEX, el token comprometido era un token de API a nivel de cuenta. El compromiso probablemente provino a través de un proveedor de nube de terceros, según los hallazgos del incidente de la empresa cómo se robó el token por primera vez no ha sido revelado.

Aparecieron en la cuenta nuevos scripts de Worker con nombres como artex-*, artex-pgrecon-*, artex-pgw-* y artex-do-*, cada nombre coincidiendo con una tarea diferente. La actividad se ejecutó a más de 69 solicitudes por minuto en varias partes de la cuenta. Incluyó intentos de establecer persistencia y validar tokens de sesión para otras aplicaciones de terceros.

Gran parte de esta actividad fue guiada ligeramente por un operador humano, cree la empresa. No se ha revelado si algún intento de persistencia funcionó.

Durante tres días esta semana, más de 50 familias de marcos de trabajo de pruebas de penetración de IA intentaron escanear a los clientes de la empresa, y las direcciones IP vistas ejecutando tales marcos ahora cuentan por miles.

El FBI dijo en una alerta FLASH esta semana que una gama de atacantes ha utilizado ARTEX desde al menos agosto contra organizaciones en muchos sectores de todo el mundo. La alerta resume 11 informes anteriores y no describe ningún incidente nuevo.

El desarrollador de ARTEX hizo que su repositorio de GitHub no estuviera disponible el 8 de octubre tras los informes de abuso, pero los forks de la comunidad, las copias archivadas y una versión comercial llamada ARTEX PRO lo mantienen disponible.

Los ejemplos de la alerta incluyen una campaña anterior contra instituciones financieras de Corea del Sur que robó información personal de unas 67,000 personas, y el compromiso de ConnectWise.

Qué puedes revisar como defensor

"Ninguna de las técnicas en estas campañas era nueva. Lo que los agentes de IA cambian es la velocidad y la persistencia del atacante", dijo el equipo de inteligencia de amenazas de Amazon. Los agentes tuvieron éxito donde faltaba la seguridad básica, incluyendo credenciales predeterminadas o hard-coded, claves dejadas en el código y archivos públicos, interfaces y puntos finales de inferencia sin autenticación, y software sin parches.

El equipo recomienda tratar las aplicaciones de IA, las puertas de enlace de modelos y los puntos finales de inferencia como otros sistemas de producción, asumiendo que los secretos expuestos serán encontrados rápidamente, y vigilando el mal uso a través de gastos inesperados o uso inusual.

Aquí tienes el estado de los fallos nombrados en el manual:

Langflow: CVE-2025-3248, falta de autenticación que permite a un atacante remoto ejecutar código. Las versiones anteriores a 1.3.0 están afectadas, y la 1.3.0 es la versión corregida ( notas de lanzamiento ). CISA añadió el fallo a su catálogo de Vulnerabilidades Explotadas Conocidas (KEV) el 5 de mayo de 2025, y la entrada de KEV lo marca como conocido por ser usado en campañas de ransomware.

RAGFlow: CVE-2026-28797, inyección de plantillas del lado del servidor (SSTI) que permite a cualquier usuario conectado ejecutar comandos del sistema operativo en el servidor. El ataque requiere una cuenta registrada, y el autoregistro está activado por defecto, dice el aviso de seguridad. NVD lista la 0.24.0 y anteriores como afectadas. El aviso no lista ninguna versión parcheada. La versión 0.25.0, lanzada el 21 de abril, renderiza las plantillas en el sandbox recomendado, según sus notas de corrección de SSTI.

Familia One API: Omisión de autenticación a través del encabezado isCliRequest. El informe del equipo no nombra versiones afectadas ni correcciones.

Otras revisiones que se aplican a estos ataques:

* Cambia las credenciales de administrador predeterminadas, como la clave maestra predeterminada de LiteLLM, y no dejes una nueva instalación incompleta donde un externo pueda tomar el control.
* Busca secretos embebidos en archivos de configuración, variables de entorno, scripts de despliegue, pipelines de CI/CD y bases de datos, sigue escaneando repositorios e imágenes de contenedores en busca de los expuestos, y rota las credenciales expuestas rápidamente, como aconseja el FBI.
* Asigna a los tokens de API de Cloudflare una fecha de expiración y limita las direcciones IP de cliente que pueden usarlos. Ambos son ajustes opcionales de restricción de tokens y los nuevos tokens llevan un prefijo cfut_ que los escáneres de secretos pueden detectar.
* Busca scripts de Cloudflare Worker llamados artex-*, artex-pgrecon-*, artex-pgw-* o artex-do-*.
* Revisa los registros para las 11 direcciones IP publicadas con los hallazgos del señuelo, y para las más de 2,500 direcciones que los investigadores de Cisco Talos vinculan a ARTEX en sus archivos de indicadores.
* Las reglas de detección de los investigadores para ARTEX son las reglas de Snort 3 7:76, 7:77 y 7:78, y las reglas de Snort 2 1:67494, 1:67495 y 1:67496. Las reglas 7:78 y 1:67496 están desactivadas por defecto y detectan rastros de norma, el arnés de agentes que usa ARTEX.

Fuente:
THN