Google admite que Gemini hackeó accidentalmente a tres empresas

• La compañía Google ha confirmado que su inteligencia artificial, Gemini, superó los límites establecidos y logró vulnerar la seguridad de tres compañías reales. Este incidente ocurrió durante una fase de pruebas y pone de manifiesto los peligros de otorgar autonomía y herramientas de ciberseguridad a una IA con acceso directo a la red.

Google se suma a la fiesta de los hackeos, conociendo ahora que su modelo de IA Gemini también ha terminado vulnerando a empresas reales. Este es un ejemplo más de los riesgos que aparecen cuando una IA recibe autonomía, herramientas de ciberseguridad y acceso real a Internet. Y es que fue durante unas pruebas realizadas en mayo de 2026, donde un modelo de Gemini terminó accediendo sin autorización a sistemas pertenecientes a tres empresas reales, pese a que el ejercicio debía limitarse a objetivos incluidos dentro de un entorno de evaluación. Ahora bien, Google únicamente ha confirmado el incidente después de que estos fueran filtrados por The Wall Street Journal.

Las pruebas fueron realizadas por Irregular, una compañía independiente especializada en evaluar la seguridad y las capacidades de modelos de inteligencia artificial. Gemini estaba realizando tareas propias de un ejercicio de ciberseguridad cuando localizó información pública en Internet y obtuvo credenciales que le permitieron entrar en tres sistemas que interpretó erróneamente como parte de la prueba. Google asegura que las tres organizaciones fueron notificadas y que Irregular modificó posteriormente sus procedimientos de evaluación.

Gemini consiguió entrar utilizando contraseñas y credenciales expuestas públicamente

Lo más llamativo del incidente es que Gemini no necesitó explotar ninguna vulnerabilidad especialmente sofisticada. En uno de los casos, el modelo comenzó a probar contraseñas hasta conseguir acceder a un sistema protegido. En los otros dos, encontró credenciales que habían sido publicados en repositorios accesibles desde Internet y los utilizó para autenticarse en sistemas pertenecientes a empresas reales.

El problema estuvo en que Gemini creía que estos objetivos estaban incluidos dentro del alcance autorizado del ejercicio. Según la información publicada, la IA tenía acceso a Internet durante las pruebas y terminó interactuando con infraestructura situada fuera del entorno que debía utilizar. En uno de los casos, además, una empresa ficticia empleada en el ejercicio compartía nombre con una compañía real, lo que contribuyó a que el modelo terminase atacando el objetivo equivocado.

Google sostiene que Gemini detuvo su actividad en los tres incidentes una vez alcanzado el acceso y que no se produjo ningún daño conocido. Fue Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, la que confirmó que las empresas afectadas fueron informadas. A ello se le sumó recalcar la necesidad de entrenar a los modelos avanzados para actuar de forma responsable cuando disponen de herramientas capaces de interactuar directamente con sistemas informáticos reales.

El modelo de IA Gemini se suma a otros agentes que realizaron los mismos hackeos

Irregular asegura que el fallo que permitió esta situación no afectó exclusivamente a Google y su modelo Gemini. La compañía notificó a finales del mes de julio a los principales laboratorios de IA después de detectar problemas similares durante evaluaciones realizadas con modelos de Meta (Llama), Anthropic (Claude) y OpenAI (GPT). La compañía afirmó que los errores conocidos en su infraestructura de pruebas fueron corregidos hace semanas.

De hecho, Meta ya había explicado en agosto que el incidente sufrido por uno de sus modelos dentro de estas mismas pruebas no podía considerarse una fuga del sandbox ni un ciberataque avanzado. Esta distinción es importante, y es que Gemini no parece haber desarrollado espontáneamente la intención de atacar empresas externas. Se defiende que recibió una tarea de ciberseguridad y, debido a una delimitación deficiente del entorno, extendió esa tarea hacia sistemas reales que interpretó como objetivos legítimos, al igual que el resto de compañías.

Debido a estos casos, Irregular ahora está trabajando en nuevas prácticas para realizar este tipo de evaluaciones de ciberseguridad sin que los agentes puedan salir accidentalmente del perímetro autorizado.