• La inteligencia artificial de Anthropic ha demostrado una capacidad sorprendente al conseguir hackear a tres organizaciones diferentes durante una simulación de "captura de la bandera". Este hecho pone de manifiesto la rápida y abrumadora evolución de los modelos de IA, lo que genera incertidumbre sobre el futuro del empleo y el impacto en nuestra vida cotidiana, ya que la industria continúa avanzando a un ritmo imparable.

Los modelos de IA han avanzado tanto que a muchos les abruma su evolución, pues dentro de unos años no sabemos si vamos a poder mantener nuestros trabajos o cuanto cambiarán nuestra vida. Esto no es algo que podamos parar, pues la industria entera está enfocada en seguir progresando lo más rápido posible y a pesar de que lleva poco tiempo, ya estamos viendo señales de peligro. Si estuviste viendo el caso del ataque a Hugging Face por parte de la IA de OpenAI ahora continuaremos con otro suceso similar, pues resulta que varios modelos de IA de Anthropic lograron hackear a tres organizaciones por su cuenta.

Hace una semana aproximadamente avisaron de un ataque un tanto peculiar. No se trata de un ciberataque típico donde un grupo de hackers logra atravesar las defensas de una empresa y se adentra en ella para robar documentos e información importante de ellos. Aquí se trataba de un agente de IA de OpenAI que logró salir del entorno de pruebas aislado donde se encontraba y pudo entrar en la infraestructura de Hugging Face. Esto hizo saltar las alarmas, pues encima OpenAI avisó tarde de lo ocurrido, pues hasta el FBI sabía de lo ocurrido antes del comunicado oficial.

OpenAI no es la única que ha perdido el control, los modelos de IA de Anthropic hackearon a 3 organizaciones

La IA generativa pilló a muchos por sorpresa como una tecnología que permitiría cambiar el mundo, haciendo que la rueda capitalista se moviera mucho más rápido al centrarse en la productividad, el deseo de las empresas, pero no tanto de los trabajadores y gente de a pie. Si bien los ciudadanos aceptaron la inteligencia artificial en su rol de asistente personal, no podían dejar de preguntarse qué ocurriría si se perdiera el control. Ahora podemos ver los primeros signos de esto y en esta ocasión tenemos a tres modelos de Anthropic que lograron hackear y acceder a tres organizaciones.

Estos tres modelos fueron asignados con una tarea estilo juego de capturar la bandera, donde tenían que infiltrarse en una máquina de la red interna de Anthropic para encontrar un documento secreto que en este caso sería la bandera. Lo que pasa es que no sucedió lo previsto y escaparon del entorno de pruebas también, accediendo a Internet y entrando en las tres organizaciones. Una vez ahí, continuaron jugando al juego de capturar la bandera, por lo que efectivamente accedieron a sus sistemas en busca de esos documentos.

Anthropic tardó 4 días en avisar de lo ocurrido tras analizar los registros

Los agentes de IA usaron varias técnicas para infiltrarse en las organizaciones como aprovechar las contraseñas débiles y emplear distintos métodos para saltarse la seguridad. Al igual que con OpenAI, aquí se avisó tarde, pues notificaron a las empresas afectadas el día 27 de julio, 4 días después de que comenzaran estas pruebas. Tardaron tanto debido a que tuvieron que analizar más de 140.000 registros y no habían detectado los accesos.

Entre los modelos de IA que accedieron a las organizaciones tenemos a Opus 4.7, el cual pudo obtener las credenciales y acceder a una base de datos con cientos de registros. Luego estaría Claude Mythos 5 y un modelo experimental que logró escanear 9.000 archivos y comprometió una aplicación mediante credenciales expuestas e inyección SQL, pero aquí decidió detener el ataque.

Estamos ante otro caso de agentes de IA que logran salirse del entorno de control, pero a diferencia de OpenAI, aquí no se menciona una vulnerabilidad o brecha de seguridad. Anthropic ha dicho que en este caso fue un error humano, un malentendido que tuvieron entre la empresa y su socio de evaluación.