Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon OpenRouter elimina a tres proveedores tras detectarse meses de robo de prompts en empresas de hosting de IA


Atacantes robaron datos de tres proveedores de inferencia de IA durante meses, afectando incluso a solicitudes marcadas como de no retención de datos. La empresa Dragos detectó las filtraciones mediante el uso de tokens trampa que revelaron que los datos fueron copiados o redirigidos sin consentimiento. OpenRouter ya eliminó a los proveedores implicados y recomienda a los usuarios evitar mercados de reventa y preferir el autoalojamiento para garantizar la privacidad.





Los atacantes robaron datos desde el interior de tres proveedores de inferencia de IA durante meses, y ninguno de los tres lo supo hasta que unos investigadores se lo comunicaron, según afirmó esta semana la empresa de ciberseguridad industrial Dragos.

Algunas de las solicitudes robadas estaban marcadas como "Zero Data Retention" (Retención Cero de Datos), la configuración que se supone garantiza que un prompt nunca se almacene.

OpenRouter, una pasarela que redirige las solicitudes de IA de los clientes a un conjunto de proveedores externos, informó hoy que ha eliminado a tres proveedores de su plataforma, ha retirado 125 puntos finales de la elegibilidad para la Retención Cero de Datos y ha notificado a todos los clientes potencialmente afectados. La empresa señaló que los hallazgos no mostraron ninguna brecha en el propio OpenRouter.

La primera de las tres brechas comenzó a mediados de julio. Los prompts implantados eran cebos, pero se procesaron junto con solicitudes reales de clientes, y es casi seguro que estas también fueron copiadas, afirmó la firma.

El hallazgo proviene de una investigación con tokens canario (canary token research) que sembró unos dos millones de prompts con enlaces web y credenciales únicas entre julio y noviembre, para luego vigilar si alguien los utilizaba. Un secreto implantado solo puede conocerse en un lugar, por lo que cualquier uso del mismo significa que alguien leyó el prompt que lo contenía.

La mayor de las tres brechas involucró un par de cientos de claves de AWS que fueron implantadas, cada una enviada en exactamente una solicitud a un proveedor durante unas breves ventanas a finales de octubre. Todas las solicitudes enviadas durante esas ventanas fueron robadas, y algunas provenían de solicitudes que el proveedor había rechazado antes de que el modelo se ejecutara, lo que indica que el atacante estaba copiando el tráfico en el primer punto de llegada en lugar de más profundamente en la pila de inferencia.

El ladrón probó las claves en cuestión de horas en algunos casos, listó buckets S3, buscó en Secrets Manager y Parameter Store, e intentó crear claves de API de Bedrock y añadir usuarios de IAM para mantener el acceso, generando decenas de miles de llamadas a la API de AWS.

Parece que un atacante comprometió a dos de los proveedores a la vez, utilizando secretos de ambos desde un único servidor alquilado.

El 1 de noviembre, el mismo atacante introdujo ARTEX, un marco de pruebas de penetración impulsado por IA, y lo utilizó solo para confirmar que las claves que ya poseía seguían activas. Dos de sus agentes de usuario, artex-agent y artex-judge-r121, no aparecen en ninguna lista de indicadores públicos que la firma pudiera encontrar y vale la pena añadirlos a las detecciones.

"Una bandera de privacidad no ayuda cuando el atacante ya está dentro", escribió HD Moore, el director de investigación de la firma.

El segundo hallazgo no requirió intrusión. La investigación descubrió que vendedores en un mercado de inferencia de IA listaron modelos a los precios más bajos, activaron el registro de solicitudes y recolectaron todo lo que fluía a través de ellos.

Quienes lo hacían parecían individuos con conexiones de internet domésticas. Uno, que trabajaba desde un Mac con banda ancha doméstica en Francia, tomó contraseñas de dos prompts y escribió intentos de inicio de sesión root SSH a mano, luego usó la misma máquina para probar varias claves de AWS implantadas.

Una de esas claves había pasado por un router diferente que redirigía silenciosamente parte de su tráfico al mercado, un salto del que no se informó a ningún cliente. Ese router ha dicho desde entonces a la firma que ha dejado de hacerlo, y el rastreo de rutas a través de unos 2.000 caminos encontró varios cientos de sistemas no identificados, además de un vendedor que añade silenciosamente unos 1.000 tokens ocultos a cada prompt.

Un laboratorio de IA chino, que la investigación no nombra, obtuvo los enlaces secretos de más de la mitad de los prompts sembrados enviados a sus modelos entre julio y octubre, incluyendo aproximadamente dos tercios de las solicitudes marcadas como "no recolección de datos" o Retención Cero de Datos. Los prompts enviados a proveedores de hosting de EE. UU. que revenden los modelos del laboratorio activaron el mismo scraper, fluyendo así de vuelta al laboratorio.

Un cliente de git en otra nube intentó más tarde clonar repositorios privados referenciados en los prompts, pero solo para los modelos de ese laboratorio, y un gran proveedor de EE. UU. siguió rastreando un enlace secreto más de dos meses después de una sola solicitud a su punto final de búsqueda.

Veinticuatro días después de que se enviara un prompt, su enlace secreto fue publicado en un chat de Feishu, la aplicación de trabajo china conocida como Lark en otros lugares. El enlace fue abierto en dos minutos desde tres escritorios y tres teléfonos en Pekín y Shanghái.

La firma solo había revelado los primeros 8 caracteres del enlace del proveedor, por lo que quien lo publicó estaba leyendo una copia almacenada en caché del prompt completo.

En la práctica, escribió Moore, los prompts marcados fueron conservados, pasados a otras empresas y leídos por seres humanos.

OpenRouter dijo en un anuncio de incidente (incident announcement) que los 125 puntos finales eliminados de la elegibilidad para la Retención Cero de Datos cubren a los proveedores señalados por los investigadores y a otros eliminados por precaución. Cualquier punto final eliminado durante la revisión requerirá garantías y validación antes de que se restablezca su estado.

La pasarela está adaptando el enfoque de prueba de los investigadores para que las comprobaciones puedan ejecutarse de forma continua y está verificando las rutas de red para identificar dónde las solicitudes y respuestas pueden ser redirigidas a terceros.

Los investigadores están trabajando ahora con aproximadamente una docena de proveedores, y claves implantadas y enlaces secretos seguían siendo accedidos meses después de los primeros robos, hasta esta semana.

Railway, una empresa de plataformas, dijo en octubre que una intrusión que sufrió probablemente formaba parte de una serie de ataques diseñados para dirigirse a empresas de plataformas con el objetivo final de comprometer a los proveedores de inferencia de IA.

No todos los proveedores afectados han publicado oficialmente, dijo la pasarela, y ha notificado a los usuarios afectados de cualquier manera. Tres de ellos han publicado.


Lo que los proveedores han revelado



Un atacante tomó el control de un servidor de inferencia en Phala y pudo ver los datos de las solicitudes mientras se procesaban, informó el proveedor en un informe preliminar de incidente (preliminary incident report) la semana pasada. El incidente fue contenido el 8 de noviembre y el servicio de modelos ha sido restaurado con protecciones adicionales.

Las solicitudes al modelo DeepSeek V4 Flash 0731 que llegaron a Phala a través de la pasarela entre el 21 de octubre a las 00:00 UTC y el 8 de noviembre a las 05:35 UTC deben considerarse expuestas, dice el informe, y cada clave, token, contraseña u otro secreto dentro de ellas debe ser rotado.

Un investigador externo había estado colocando credenciales canario únicas en las solicitudes desde el 1 de julio, y solo las enviadas el 21 y 22 de octubre fueron posteriormente mal utilizadas. Esas pruebas muestrearon el tráfico en lugar de monitorear cada solicitud, por lo que el proveedor mantiene la ventana de precaución más amplia.

En Together AI, una parte no autorizada descargó muestras almacenadas de prompts de clientes después de que un agente de codificación de IA cometiera una credencial en el repositorio público de GitHub de la empresa, informó la compañía ayer en un aviso de seguridad (security notice). Las muestras habían sido recolectadas para pruebas rutinarias de software y fueron generadas por solicitudes a los modelos MiniMax M3, GLM-5.2 y Kimi K2.6 en junio y julio.

Esta parte buscó credenciales de otros servicios en las muestras y las probó, y cinco de las credenciales probadas eran canarios del experimento de los investigadores. La empresa afirmó que no tiene razones para creer que los datos fueran más lejos, entiende que han sido eliminados y ha hecho que la retención cero de datos sea la predeterminada para las cuentas nuevas.

Novita, otro proveedor en la pasarela, confirmó esta semana en un aviso de privacidad (privacy notice) que un problema de configuración de enrutamiento causó que algunas solicitudes de MiniMax fueran enviadas a la API oficial de MiniMax, más allá de lo previsto para esos clientes.

Dragos no ha nombrado a los tres proveedores vulnerados, OpenRouter no ha nombrado a los tres que eliminó, y ninguno ha dicho públicamente si son los mismos tres.

El proveedor detrás de la brecha de mediados de julio primero culpó a una configuración interna errónea, luego al procesamiento de datos de un socio, antes de que su propia investigación descubriera que los atacantes habían comprometido sus credenciales internas, dijeron los investigadores. Hasta esta semana, aún no había revelado el incidente públicamente.


Lo que debes hacer como usuario



El consejo de los investigadores comienza con un límite: una bandera de privacidad solo vincula el primer salto, escribió Moore, y los agentes de IA enviarán cualquier cosa que puedan leer, incluidas las credenciales. Dónde va un prompt es una elección, escribió, y el cliente que no elige le entrega la elección al precio más bajo.

El auto-alojamiento (self-hosting) es la única opción en la que ningún tercero lee un prompt, y acudir directamente a un proveedor de primer nivel deja una sola empresa, un solo contrato y una sola política de privacidad que revisar.

Los routers requieren más cuidado: elige tú mismo los proveedores ascendentes en lugar de aceptar el conjunto predeterminado, verifica que la configuración de privacidad realmente cambie a dónde van las solicitudes y aléjate de los mercados de revendedores, ya que parte de su capacidad funciona con claves robadas.

Una credencial falsa sembrada en el contexto que los agentes y tuberías ya envían sirve como una alarma si cualquier uso de ella se trata como un incidente, y un Thinkst Canarytoken gratuito es suficiente para empezar. Las configuraciones que eliminan formatos de credenciales conocidos de los prompts también ayudan, aunque pasan por alto datos sensibles que no tienen forma de clave.

Fuente:
THN