Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Una sola página web maliciosa permitió a investigadores secuestrar Meta Muse y acceder a chats privados


Investigadores de NebuSec demostraron que una página maliciosa podía extraer conversaciones privadas, recuerdos y credenciales de Meta Muse sin alertar al usuario. El ataque logró tomar el control total de la máquina en la nube del usuario mediante fallos en el navegador y el núcleo de Linux. Afortunadamente, fue una prueba de laboratorio y el equipo de Muse ya ha corregido todas las vulnerabilidades descritas.





Investigadores han demostrado que una página web maliciosa podría extraer las conversaciones privadas y los recuerdos almacenados de un usuario de Meta Muse desde el asistente, sin activar ningún aviso de aprobación.

El mismo ataque podría extenderse para alcanzar las credenciales que Muse almacena para las cuentas conectadas del usuario.

El trabajo fue una demostración de laboratorio, no un ataque a usuarios reales, y se mantuvo dentro de la máquina en la nube del usuario individual. NebuSec, la firma de seguridad que lo publicó ayer, afirma que el equipo de Muse ya ha corregido cada debilidad descrita.

Muse es el agente de IA personal de Meta, lanzado el 8 de septiembre, que funciona a través de las cuentas en línea que conectas a él y puede realizar compras en tu nombre. El agente de cada persona se ejecuta en su propia computadora en la nube.

Allí, una capa de monitoreo llamada Sentinel pretende ser la puerta única para cualquier cosa que el agente envíe, y se supone que las contraseñas y tokens de las cuentas conectadas deben permanecer fuera del alcance del agente.

El equipo de Muse describió el objetivo al lanzamiento: "Diseñamos el sistema para asumir que el agente podría estar bajo ataque y limitar el daño potencial".

En la demostración, una página maliciosa que el agente abría podía extraer el historial de conversaciones y los recuerdos almacenados de un usuario hacia un servidor externo y alterarlos, sin mostrar ningún aviso al usuario, según el informe de investigación de la firma [https://nebusec.ai/research/meta-muse-credential-exposure/] .



Desde ahí, los investigadores encadenaron un fallo en el navegador integrado de Muse, que el asistente utiliza para tareas como crear PDFs, con un fallo del núcleo de Linux, tomando así el control total de la máquina en la nube del usuario. Detallaron esa cadena en un desglose técnico [https://nebusec.ai/research/inside-meta-muse/] .

Ese control total alcanzó el almacén de credenciales, los archivos guardados y el propio Sentinel, las partes que el diseño de seguridad de Muse [https://muse.ai/blog/security-and-safety-for-ai-agents-our-approach-with-muse] mantiene aisladas del agente.

El compromiso no fue más allá de esa máquina. Los investigadores no lograron salir al servidor compartido subyacente ni entrar en las máquinas de otros usuarios.

Muse fue construido para asumir que su propio agente podría ser vuelto contra el usuario y para aislar cualquier intrusión. Cada uno de esos controles funcionó según lo diseñado, dijo la firma, pero aun así el ataque logró completarse.

La firma afirma que informó los hallazgos al equipo de Muse y que los exploits fueron corregidos antes de la publicación. Meta no ha confirmado públicamente las correcciones ni ha comentado el trabajo, y el informe no indica si se accedió a datos de algún usuario antes de aplicar los parches.

La investigación de la firma sobre Muse logró entrar en el sistema en la nube detrás del asistente, a diferencia de un fallo anterior de Muse encontrado en septiembre, que solo permitía que el malware ya presente en el Mac de un usuario secuestrara al asistente en el dispositivo.

Fuente:
THN