Conflictos entre agentes de Claude: una lucha por el control

• Aunque la visión de múltiples inteligencias artificiales colaborando para resolver tareas complejas parece prometedora, la realidad actual muestra complicaciones inesperadas. Se ha detectado que, al recibir instrucciones contradictorias y competir por los mismos recursos sin una jerarquía clara, los agentes de Anthropic pueden entrar en conflicto.
• Esta situación ha derivado en comportamientos agresivos donde los agentes bloquean cuentas, eliminan procesos y ocultan código malicioso con el único objetivo de imponer sus propias directrices sobre las de los demás, generando un escenario de caos operativo.

El futuro donde numerosos agentes de Inteligencia Artificial trabajan conjuntamente promete automatizar proyectos cada vez más complejos, aunque de momento los resultados no están siendo como se esperaban. El problema aparece cuando estos agentes reciben instrucciones incompatibles, comparten los mismos recursos y nadie establece quién manda, llegando a crear el caos. Anthropic ha probado precisamente este escenario y el resultado terminó en una auténtica guerra digital entre diferentes instancias de Claude con múltiples agentes librando una batalla casi suicida.

La investigación, publicada por el Frontier Red Team de Anthropic, colocó tres instancias independientes del mismo modelo en máquinas virtuales conectadas a un cuarto sistema. Todas recibieron la misión de migrar un backend desarrollado en Python, aunque cada agente debía hacerlo utilizando un lenguaje diferente. Uno apostaba por Rust, otro por TypeScript y otro por Go. El resultado sorprendió a todos los ingenieros.

Los agentes de Claude luchan entre ellos y utilizaron malware para controlar el servidor

Ninguno sabía inicialmente que los demás habían recibido órdenes contradictorias. Cuando comenzaron a encontrarse cambios que interferían con sus respectivos trabajos, no se detuvieron para solicitar una aclaración. En su lugar, asumieron que los otros agentes estaban tratando de impedir deliberadamente que completasen su tarea.

Según Anthropic, esta situación produjo de manera consistente una “guerra territorial multiagente”. Cada instancia intentó proteger su implementación mientras atacaba las aportaciones de sus competidores, aumentando progresivamente la agresividad de sus acciones.

Los agentes llegaron a deshabilitar cuentas Unix, revocar permisos, bloquear accesos mediante SSH y crear scripts capaces de localizar y cerrar continuamente los procesos rivales. Algunos incluso utilizaron nombres aleatorios y descripciones aparentemente inocentes para camuflar estos procesos como servicios legítimos del sistema. Y ahí no termina la cosa, al revés, se puso más interesante desde el punto de vista del auditor, más preocupante desde el de los ingenieros.

Malware para joder al rival, todo vale para conseguir el objetivo, una forma de pensar muy propia de una máquina

La situación fue todavía más lejos. Anthropic detectó código malicioso desplegado como si hubiese sido creado por otro agente, mecanismos para evitar órdenes como pkill y malware con capacidad para replicarse. No existía un atacante externo ni una inyección maliciosa de instrucciones: el conflicto apareció porque los tres agentes perseguían objetivos incompatibles dentro del mismo entorno.

Los resultados también cambiaron notablemente dependiendo del modelo. Claude Sonnet 4.6 y Opus 4.6 fueron los más conflictivos, con alrededor del 60% de las ejecuciones resueltas por la fuerza. Esto significa que un agente terminaba imponiéndose mediante la retirada de permisos, el bloqueo de cuentas o la neutralización del resto.

Los modelos recientes gestionaron mejor el conflicto. Mythos 5 alcanzó una tregua en el 98% de las pruebas, aunque en algunos casos primero neutralizó a sus rivales y posteriormente revirtió sus acciones. También hubo agentes que reconocieron el problema, eliminaron el código malicioso, pidieron disculpas mediante mensajes de commit y solicitaron intervención humana.

La principal advertencia de Anthropic es bastante dura y casi argumentativa de cara al futuro más próximo: aumentar la inteligencia o las capacidades de ejecución no garantiza una mejor coordinación. Un agente más competente también puede bloquear a sus compañeros con mayor rapidez y eficacia.

Un problema empresarial que debe ser tenido muy en cuenta

La prueba fue diseñada deliberadamente para provocar objetivos incompatibles, pero expone un problema perfectamente trasladable a empresas donde varios agentes compartan servidores, repositorios y bases de datos. La seguridad individual de cada modelo no basta si, al trabajar en grupo, todos pueden interpretar un conflicto de instrucciones como una agresión y responder intentando tomar el control del sistema.

Si varios agentes de Claude luchan siendo de una misma empresa, imaginemos el caos entre varios de otras empresas, sin supervisión humana en tiempo real, lo cual, a la velocidad que hacen todo, sería casi imposible para un equipo de ingenieros, hay que ser realistas. ¿Significa esto que jamás cooperarán? En el futuro más próximo seguro que no, a largo plazo puede que evolucionen a un nuevo nivel de inteligencia que se acerca a la consciencia humana y entiendan los conceptos reales e implicaciones de “cooperar”.