Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Una página web maliciosa podría contaminar tu modelo de IA local basado en NVIDIA NemoClaw


Oasis Security descubrió una vulnerabilidad en NVIDIA NemoClaw que permite a sitios web maliciosos tomar el control de instancias locales de Ollama. Mediante un ataque de DNS rebinding, un atacante puede insertar instrucciones ocultas en las plantillas del modelo de IA. Aunque NVIDIA implementó algunas protecciones, ciertas configuraciones en Windows y WSL siguen siendo vulnerables.

Logo




Oasis Security ha revelado una vulnerabilidad en NVIDIA NemoClaw que podría permitir que una página web controlada por un atacante tome el control no autenticado de la instancia local de Ollama que sirve a un agente de IA y plante instrucciones ocultas dentro del propio modelo.

Los hallazgos fueron compartidos con The Hacker News antes de su publicación, y el informe indica que Oasis Security los notificó previamente al Equipo de Respuesta a Incidentes de Seguridad de Productos (PSIRT) de NVIDIA.

Sin embargo, no cuenta con un identificador CVE, ni un rango de versiones afectadas, ni una versión parcheada, por lo que si operas NemoClaw, actualmente no puedes comprobar si tu instalación está afectada. No se han reportado explotaciones hasta el 25 de agosto de 2026.

NemoClaw es la pila de referencia de código abierto de NVIDIA para ejecutar agentes como OpenClaw dentro de sus sandboxes OpenShell, y Ollama es uno de sus backends de inferencia local compatibles.

El informe describe que NemoClaw inicia Ollama con OLLAMA_HOST=0.0.0.0:11434, vinculando el servidor del modelo a todas las interfaces de red, y afirma que el acceso a la API resultante permite a un atacante modificar la plantilla de chat del modelo para que se apliquen instrucciones ocultas a cada conversación posterior.

"El sandboxing protege el endpoint, pero tomar el control del agente es tomar el control de su acceso y sus herramientas", afirmó Oasis Security en el informe.

La propia documentación de configuración de Ollama de NVIDIA [enlace] y el código fuente actual sitúan esa vinculación en una ruta de plataforma. El manejo de Ollama en NemoClaw varía según la plataforma:

* Los hosts que no usan WSL mantienen Ollama en 127.0.0.1:11434 detrás de un proxy inverso restringido por token en 0.0.0.0:11435, y la incorporación reinicia un demonio ya vinculado en otro lugar hacia el loopback.
* Docker Desktop en WSL omite el proxy, ya que el contenedor alcanza la dirección de loopback del host a través de host.docker.internal.
* La ruta de Ollama en host de Windows establece OLLAMA_HOST=0.0.0.0:11434 para que los contenedores de Docker Desktop puedan alcanzar el demonio, y no requiere autenticación en el puerto 11434.

La página de integración de NemoClaw de Ollama [enlace] también aconseja configurar 

OLLAMA_HOST=0.0.0.0

 al ejecutarlo dentro de WSL2 o un contenedor.

La API en el puerto 11434 no tiene autenticación y confía en dos capas de middleware para bloquear las solicitudes originadas en el navegador. Cuando la dirección de vinculación no es loopback, la comprobación de la cabecera Host se omite por completo. La capa de Intercambio de Recursos de Origen Cruzado (CORS) entonces trata la solicitud como si fuera del mismo origen y la permite, porque las cabeceras Origin y Host llevan el propio dominio del atacante. Esto se aplica a una página que el atacante sirve en el puerto 11434.

El rebinding del Sistema de Nombres de Dominio (DNS) cierra la brecha, haciendo que el dominio del atacante se resuelva primero a su propio servidor y luego a 127.0.0.1, mientras el navegador sigue tratando las solicitudes como si fueran del mismo origen.

El informe no especifica con qué navegadores o sistemas operativos se verificó la cadena. Verificar las cabeceras Host y Origin es la solución estándar para este tipo de ataque.

El rebinding de DNS contra la API de Ollama ya está documentado. Ollama lanzó un parche en la v0.1.29 el 14 de marzo de 2024, y NCC Group publicó el aviso como CVE-2024-28224 al mes siguiente. Dicho aviso recomendaba validar la cabecera Host en el lado del servidor para permitir solo un conjunto de valores autorizados.

Con la API accesible, la carga útil del informe escribe una plantilla de Go modificada a través de /api/create. La plantilla controla cómo se renderiza la matriz de mensajes estructurados en texto plano antes de que el modelo lo procese, y la versión envenenada añade texto controlado por el atacante a cada mensaje del sistema en el momento de la inferencia.

Las instrucciones plantadas de esta manera persisten en conversaciones posteriores y sobreviven incluso si el agente proporciona su propio prompt del sistema, según el informe.

"El cliente no puede detectar ni prevenir esto: la plantilla es una propiedad a nivel de modelo invisible para los consumidores de la API", señaló Oasis Security.

The Hacker News revisó el repositorio de NemoClaw el 25 de agosto y encontró que el proxy local de Ollama se niega a iniciar si el backend no está vinculado al loopback, un valor predeterminado introducido en la v0.0.106 el 10 de agosto. El proxy finaliza con un código de estado dedicado y muestra:

"Refusing to start: an Ollama daemon reachable on a non-loopback interface bypasses the proxy's token check entirely. Set OLLAMA_HOST=127.0.0.1:${port} on the Ollama systemd unit or set NEMOCLAW_OLLAMA_PROXY_SKIP_BIND_PROBE=1 to override (not recommended)."

Esa comprobación puede desactivarse configurando NEMOCLAW_OLLAMA_PROXY_SKIP_BIND_PROBE=1, y no falla en hosts donde la comprobación de vinculación no puede ejecutarse.

La comprobación también se ejecuta dentro del propio proxy. NemoClaw no inicia ese proxy en las rutas de WSL, y la configuración de host de Windows es una de ellas. Por lo tanto, el valor predeterminado de la v0.0.106 no llega a la ruta de plataforma donde se establece la vinculación 0.0.0.0.

La misma revisión no encontró ninguna comprobación de integridad de la plantilla de chat en ninguna parte del repositorio.

La documentación de NVIDIA instruye a los operadores en la ruta de host de Windows a no exponer el puerto 11434 a una LAN o a Internet. Esa guía aborda el acceso entrante desde la red. La cadena de rebinding no lo necesita, ya que el navegador que realiza las solicitudes ya se está ejecutando en el host y alcanza el demonio en 127.0.0.1.

El envenenamiento de la plantilla de chat de un modelo para que se ejecuten instrucciones durante la inferencia ha sido documentado previamente. Los investigadores de Oasis Security documentaron la misma técnica contra Paperclip a principios de este mes, y utilizaron una ruta comparable de navegador a localhost para secuestrar agentes locales de OpenClaw en febrero.


Fuente:
THN

1 comentarios :

Anónimo dijo...

Por lo que sea no hablamos del grupo Jabaroot no?

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.