Anthropic alerta sobre la capacidad de autorreplicación de la IA

• La empresa Anthropic ha emitido una advertencia sobre el avance de la inteligencia artificial. Tras realizar diversas pruebas, han descubierto que incluso modelos de tamaño reducido podrían lograr, en cuestión de meses, la habilidad de localizar dispositivos vulnerables en la red y copiarse en ellos sin que sea necesaria la intervención de ningún ser humano.

Anthropic ha lanzado una nueva advertencia sobre lo que podemos esperar en torno a la evolución de los modelos de inteligencia artificial. Según los experimentos realizados por la propia compañía, algunos modelos relativamente pequeños podrían estar a solo unos meses de adquirir la capacidad suficiente para buscar dispositivos vulnerables conectados a Internet, copiarse en ellos y continuar propagándose de manera autónoma, todo ello sin depender de grandes centros de datos ni de la intervención humana.

La investigación se ha centrado especialmente en dispositivos IoT con una seguridad deficiente, como televisores Android de fabricantes poco conocidos, electrodomésticos inteligentes y otros equipos conectados a Internet. El escenario todavía no funciona de manera fiable de principio a fin, pero Anthropic considera que el ritmo de mejora actual de los modelos podría convertir este tipo de autorreplicación en una capacidad real antes de que termine 2026.

Modelos de menos de 30.000 millones de parámetros ya consiguen realizar los pasos necesarios

Los experimentos de Anthropic analizaron si un modelo de IA podía identificar dispositivos vulnerables, comprometerlos, e instalar una copia de sí mismo. Posteriormente, esa copia realizaría la misma tarea de ir replicándose en otros dispositivos conectados a internet que sean vulnerables. La compañía descubrió que modelos con menos de 30.000 millones de parámetros ya son capaces de completar individualmente las distintas fases necesarias para conseguir esa replicación.

El principal obstáculo que tienen  estos modelos de IA sigue siendo encadenar correctamente todas esas acciones. Los modelos actuales todavía fallan cuando tienen que completar de forma autónoma todo el proceso desde el principio hasta el final. Sin embargo, cuando Anthropic simplificó algunas partes de sus pruebas y eliminó determinados pasos relacionados con la seguridad, modelos como GLM-5.2 y sistemas más capaces lograron completar una replicación de extremo a extremo.

Esto lleva a Anthropic a pensar que el problema podría ser principalmente de capacidad y fiabilidad, no una barrera técnica imposible de superar. Si los modelos pequeños continúan mejorando al ritmo que se está observando en la actualidad, la compañía estima que podrían alcanzar la capacidad necesaria para replicarse de forma autónoma antes de terminar este mismo año, y que posteriormente podrían aparecer modelos todavía más pequeños capaces de ejecutar el mismo proceso directamente desde sus propios pesos.

Una IA capaz de autorreplicarse entre miles de dispositivos conectados a Internet sería mucho más difícil de detener

La principal preocupación que tiene ahora mismo Anthropic es que una IA que consiguiera distribuirse entre numerosos dispositivos conectados a Internet sería considerablemente más complicada de eliminar que un sistema alojado en una infraestructura centralizada. En este escenario no existiría un único servidor o centro de datos que pudiera apagarse para detener el sistema, ya que cada dispositivo comprometido podría alojar una copia independiente.

Anthropic también señala una diferencia importante respecto al malware tradicional. Un modelo de IA potencialmente podría analizar por sí mismo hardware o dispositivos que nunca hubiera encontrado anteriormente, adaptarse a ellos y buscar nuevas formas de ejecutarse. Anthropic advierte incluso de que este tipo de sistemas podría terminar intentando localizar dispositivos con hardware más potente, incluidos procesadores utilizados en centros de datos.

Por ahora, Anthropic espera que una IA de este tipo se propague lentamente y dependa principalmente de recursos informáticos baratos, fácilmente accesibles y con una seguridad relativamente pobre. Precisamente por ello considera importante reforzar la protección de televisores, electrodomésticos y otros dispositivos IoT antes de que los modelos alcancen estas capacidades. La idea es comenzar a dificultar que futuros agentes autónomos puedan utilizar millones de dispositivos mal protegidos como una infraestructura distribuida desde la que copiarse y continuar operando.