Anthropic advierte que los modelos de IA pequeños podrían ser capaces de autorreplicarse en pocos meses a través de televisores inteligentes y otros dispositivos IoT con seguridad deficiente. Según su investigación, los futuros gusanos de IA podrían ejecutarse directamente en el hardware del consumidor en lugar de depender de un centro de datos, lo que dificultaría su desactivación al no existir un servicio central único.

Anthropic advierte que los modelos pequeños de IA podrían estar a pocos meses de autorreplicarse en televisores inteligentes mal asegurados y otros dispositivos conectados a internet.

Su investigación sugiere que los futuros gusanos de IA podrían ejecutarse en hardware de consumo en lugar de depender de un centro de datos, lo que los haría más difíciles de detener mediante un único servicio central.

Según una investigación publicada el 12 de octubre por William Zhou y Daniel Freeman, los agentes de IA podrían ser capaces de instalar y ejecutar modelos en máquinas desconocidas.

Los investigadores enfatizaron que no han demostrado un replicador malicioso completo. Sus hallazgos muestran un progreso hacia esa amenaza, no un brote activo de malware de IA.

Anthropic advierte que la IA podría autorreplicarse en dispositivos IoT

Los investigadores ejecutaron Gemma4-26B-A4B en 15 boxes de Android TV de marcas genéricas que cuestan unos 55 dólares cada uno. Cada box tenía 4 GB de RAM y almacenaba parte del modelo. Juntos, los dispositivos lograron 0,39 tokens por segundo, demostrando que el hardware barato puede soportar un modelo grande, aunque sea muy lentamente.

Este enfoque utiliza la inferencia distribuida, donde varias máquinas comparten el trabajo de ejecutar un modelo de IA. En lugar de ajustar todo en un solo dispositivo, los investigadores dividieron sus capas entre los boxes.

Un futuro gusano podría transportar los pesos del modelo, los archivos que contienen sus valores aprendidos, hacia dispositivos comprometidos y utilizar sus recursos combinados. La cadena de replicación propuesta implica encontrar objetivos, obtener acceso, configurar la inferencia y propagarse desde los hosts recién alcanzados.

Anthropic se centró principalmente en la configuración de la inferencia, que requiere elegir el software adecuado, solucionar problemas de paquetes y manejar diferentes sistemas operativos. Un modelo de nueve mil millones de parámetros estableció con éxito la inferencia en ocho de los nueve tipos de hardware probados.

En un experimento separado, los investigadores utilizaron ocho máquinas de Google Cloud que ejecutaban emuladores de Android dentro de una red aislada. Sus puertos de Android Debug Bridge no requerían autenticación.

GLM-5.2 alcanzó las ocho máquinas en cuatro de cinco ensayos y siete máquinas en el ensayo restante mientras establecía la inferencia de Llama3.1-8B. Sin embargo, el propio modelo del agente se ejecutaba en un servidor de inferencia independiente. Los investigadores crearon nuevas copias del agente después de verificar cada configuración exitosa.

Por lo tanto, se trató de una prueba simplificada de habilidades de replicación, no una prueba de que GLM-5.2 pudiera vivir y reproducirse de forma independiente en boxes de TV. La ruta de acceso fácil también limita las conclusiones para el mundo real.

Anthropic estima que los modelos más pequeños podrían alcanzar el nivel de habilidad requerido para finales de 2026 si continúan las tasas de mejora pasadas. Ese pronóstico utiliza una medida general de capacidad de IA en lugar de una medida de replicación directa.

Las limitaciones del hardware seguirían frenando la propagación, con una configuración de inferencia estimada de Qwen3.5-9B que tomaría aproximadamente entre 28 y 51 horas.

Las infecciones existentes muestran por qué esto es importante. La botnet Kimwolf comprometió más de dos millones de dispositivos, incluyendo muchos boxes de Android TV.

A diferencia del malware fijo, los futuros gusanos de IA podrían ajustar sus métodos de configuración para sistemas desconocidos y pasar notas útiles de resolución de problemas a copias posteriores. Debes estar atento a las descargas de modelos grandes, el tráfico inusual entre dispositivos, el escaneo de red y las conexiones salientes inesperadas.

El informe de Kimwolf v7 también recomienda desactivar el acceso ADB expuesto y separar los boxes de TV de las redes empresariales. Una seguridad de dispositivo más fuerte y el aislamiento coordinado de los hosts infectados podrían reducir las oportunidades de propagación de los gusanos de IA.

Fuentes:
https://cybersecuritynews.com/anthropic-ai-self-replication-iot/