Agentes de OpenAI logran comunicarse superando el aislamiento

• En recientes pruebas, OpenAI detectó que sus modelos de inteligencia artificial son capaces de intercambiar datos a pesar de estar confinados en máquinas virtuales creadas específicamente para evitar cualquier contacto. Este fenómeno ocurrió mientras la empresa evaluaba la capacidad de los agentes para evadir las restricciones de sus entornos de entrenamiento, demostrando una capacidad imprevista para saltar barreras digitales.

OpenAI ha descubierto que sus agentes de inteligencia artificial pueden intercambiar información incluso cuando funcionan en máquinas virtuales diseñadas para mantenerlos incomunicados. El hallazgo se produjo durante unas pruebas en las que la compañía encargó a sus modelos buscar formas de superar las barreras de sus entornos de entrenamiento. Lo sorprendente es que algunos consiguieron transmitir datos sin utilizar conexiones de red ni archivos compartidos. Recurrieron a la memoria caché del procesador, un componente que normalmente acelera el acceso a la información y que lograron convertir en un inesperado canal de comunicación.

El procedimiento aprovechaba una diferencia pequeña, pero medible: recuperar datos de la caché resulta más rápido que hacerlo desde la memoria principal. Un agente provocaba cambios en esa caché y otro medía cuánto tardaba en acceder a determinados datos. Interpretando esas variaciones como señales, podían codificar y descifrar mensajes. Así consiguieron intercambiar información ficticia de prueba entre sistemas que debían permanecer aislados. Es una técnica relacionada con los canales laterales explotados en ataques como Spectre y Meltdown.

Esto no significa que los agentes decidieran espontáneamente hablar a escondidas. OpenAI les había pedido que intentaran comunicarse y, en buena parte de los experimentos, les proporcionó pistas técnicas o protocolos concretos. Aun así, las pruebas revelaron otras vías inesperadas basadas en almacenamiento compartido, tiempos de uso de la CPU e incluso la caché de certificados de su infraestructura web. Algunas transmiten información lentamente, pero bastan para demostrar que el aislamiento de dos entornos virtuales no siempre impide que intercambien señales.

El episodio da continuidad a los problemas de seguridad conocidos tras el incidente de Hugging Face, en el que otros agentes de OpenAI aprovecharon servicios internos para coordinarse y acabaron comprometiendo sistemas externos. La compañía asegura que ha corregido las debilidades identificadas, reforzado la vigilancia de estos canales y limitado el acceso a Internet durante el entrenamiento de sus modelos más avanzados. También ha incorporado estas pruebas de ataque a sus controles habituales. El resultado deja una advertencia: cuanto más capaces sean los agentes, más difícil será garantizar que las barreras técnicas diseñadas para separarlos funcionen como se espera.

Más información