Un repositorio malicioso de Hugging Face que llegó a la lista de tendencias de la plataforma suplantó el proyecto “Privacy Filter” de OpenAI para distribuir malware de robo de información a usuarios de Windows.

El repositorio alcanzó brevemente el puesto número 1 en Hugging Face y acumuló 244.000 descargas antes de que la plataforma respondiera a los informes y lo eliminara.

La plataforma Hugging Face permite que desarrolladores e investigadores compartan modelos de IA, conjuntos de datos y herramientas de aprendizaje automático (ML). Los modelos son sistemas de IA preentrenados alojados en la plataforma que comprenden archivos de pesos, configuración y código.

Investigadores de HiddenLayer, una empresa centrada en la protección de modelos de IA y ML contra ataques, descubrieron la campaña el 7 de mayo, tras detectar un repositorio malicioso llamado Open-OSS/privacy-filter.

“El repositorio utilizó typosquatting del lanzamiento legítimo de Privacy Filter de OpenAI, copió su tarjeta de modelo casi palabra por palabra y envió un archivo loader.py que obtiene y ejecuta malware infostealer en máquinas Windows”, explican los investigadores [http://www.hiddenlayer.com/insight/malware-found-in-trending-hugging-face-repository-open-oss-privacy-filter].

Instrucciones del repositorio malicioso
Fuente: HiddenLayer

El script de Python ‘loader.py’ incluía código falso relacionado con la IA para parecer inofensivo, pero en segundo plano, desactivaba la verificación SSL, decodificaba una URL base64 que apuntaba a un recurso externo y luego obtenía y ejecutaba una carga útil JSON que contenía un comando de PowerShell.

El comando, que se ejecuta en una ventana invisible, descarga un archivo por lotes (start.bat) que realiza una escalada de privilegios, descarga la carga útil final (sefirah), la añade a las exclusiones de Microsoft Defender y la ejecuta.

La carga útil final es un infostealer basado en Rust que se dirige a los siguientes datos sensibles:

* Datos del navegador de navegadores basados en Chromium y Gecko (por ejemplo, cookies, contraseñas guardadas, claves de cifrado, datos de navegación, tokens de sesión)
* Tokens de Discord, bases de datos locales y claves maestras
* Billeteras de criptomonedas y extensiones de navegador de billeteras
* Credenciales y archivos de configuración de SSH, FTP y VPN, incluido FileZilla
* Archivos locales sensibles y semillas/claves de billeteras
* Información del sistema
* Capturas de pantalla de monitores múltiples

Los datos robados se comprimen y se exfiltran a un servidor de comando y control (C2) en recargapopular[.]com.

HiddenLayer destaca las amplias funciones de anti-análisis del malware, que incluyen comprobaciones de máquinas virtuales, sandboxes, depuradores y herramientas de análisis, todo con el propósito de evadir los sistemas de análisis.

El número exacto de víctimas en este incidente no está claro, y los investigadores señalan que la gran mayoría de las 667 cuentas que dieron me gusta al repositorio malicioso en Hugging Face parecen ser autogeneradas. Además, el recuento de 244.000 descargas puede haber sido inflado artificialmente.

Al examinar estas, los investigadores descubrieron otros repositorios que utilizaban la misma infraestructura de carga maliciosa. Los investigadores de HiddenLayer también notaron coincidencias con una campaña de typosquatting de npm que distribuía el implante WinOS 4.0.

Se recomienda a los usuarios que descargaron archivos del repositorio malicioso que reinstalen la imagen de la máquina, roten todas las credenciales almacenadas, reemplacen las billeteras de criptomonedas y las frases semilla, e invaliden las sesiones y tokens del navegador.

Los actores de amenazas han abusado de Hugging Face en el pasado para alojar modelos maliciosos, a pesar de las medidas de seguridad de la plataforma.

Fuente:
BleepingComputer