Estados Unidos desarrolla IA autónoma para ciberataques invisibles

• El ejército estadounidense está impulsando el proyecto ECHOTRIBBLE, una iniciativa diseñada para crear agentes de inteligencia artificial autónomos. Estos sistemas tendrían la capacidad de infiltrarse en infraestructuras digitales enemigas, identificar objetivos estratégicos y neutralizarlos operando casi sin intervención humana, con la particularidad de poder autodestruirse para borrar cualquier evidencia de su paso.

La Inteligencia Artificial está entrando en la guerra por muchas puertas, y una de las más delicadas es la que no necesita soldados, drones ni misiles. El Ejército de EE.UU. trabaja en ECHOTRIBBLE, un proyecto que busca desarrollar agentes de IA capaces de infiltrarse en redes enemigas, localizar objetivos y neutralizarlos con la mínima supervisión humana posible. Después, deberían eliminarse sin dejar rastro. Sobre el papel, una herramienta perfecta para la ciberguerra, donde el problema, claro, es qué ocurre si decide recorrer un camino que nadie había previsto.

La información procede de documentos filtrados del Mando Cibernético del Ejército estadounidense, o ARCYBER, y describe un programa todavía en fase inicial. Es decir, hablamos de las capacidades que se quieren conseguir, no de un ejército de agentes digitales que ya esté operando con todas ellas.

ECHOTRIBBLE busca agentes de IA que se propaguen por las redes y neutralicen objetivos de EE.UU. de forma autónoma

La propuesta va bastante más allá de utilizar un chatbot para encontrar vulnerabilidades o ayudar a escribir código. El objetivo es desarrollar agentes de IA autónomos y modulares capaces de desplazarse entre dispositivos, trabajar sobre distintos Sistemas Operativos y replicarse dentro de las redes adversarias.

Para entendernos, su comportamiento tendría similitudes con el de un gusano informático tradicional, pero incorporando capacidad para interpretar el entorno y actuar en función de una misión. Localizado el objetivo, deberían neutralizarlo mediante su desactivación temporal, completa o su eliminación del sistema.

El sigilo también forma parte del encargo. Estos agentes tendrían que reducir sus comunicaciones, ocultar las transmisiones necesarias y, una vez terminado el trabajo, autodestruirse sin alertar al adversario ni dejar evidencias de su presencia. Esa es la intención; conseguirlo de forma fiable es otra cuestión, aunque todo parece de ciencia ficción más pura en Hollywood.

Además, el programa contempla operar tanto en entornos de nube disputados como en sistemas aislados de Internet. Esto último es un requisito especialmente ambicioso: que aparezca en la documentación no significa que ya se haya resuelto cómo hacerlo.

El riesgo está en qué puede tocar la IA antes de llegar al objetivo

El Ejército quiere que los agentes actúen con la menor intervención humana posible, pero esa autonomía exige confiar en sus decisiones dentro de redes complejas, cambiantes y donde las infraestructuras militares y civiles pueden estar conectadas.

Imaginemos que el adversario utiliza una instalación civil comprometida como parte de su infraestructura de control. ¿El agente de IA sabría distinguir entre atravesarla, intervenir sobre ella o dejarla fuera de servicio? ¿Y entendería las consecuencias de cada opción?

Los expertos consultados advierten precisamente de ese riesgo: alcanzar el objetivo no garantiza que el recorrido sea aceptable. Una infraestructura de agua estadounidense utilizada por el enemigo podría acabar sufriendo daños si el sistema interpreta que debe neutralizarla para completar su misión.

La documentación contempla mecanismos de activación predefinidos para identificar objetivos, pero queda por demostrar hasta qué punto permitirían controlar el comportamiento de agentes capaces de propagarse y tomar decisiones.

Por ahora, el programa habría reducido 65 propuestas técnicas a cinco, tras una evaluación celebrada del 6 al 8 de octubre. Los candidatos elegidos optarían a financiación y contratos de prototipado para el gobierno de Trump, donde sus modelos de IA serían la vanguardia del planeta.