Curiosa noticia que involucra  a Claude, donde este chatbot ayudó a descubrir brechas de seguridad para robar hasta 150 GB de información sensible del Gobierno de México. Fue la startup israelí Gambit Security, la que sostiene que un atacante desconocido utilizó el chatbot de Anthropic como “asistente” para ejecutar una campaña de intrusión contra múltiples instituciones públicas de México. El premio de esta colaboración se tradujo en un botín de alrededor de 150 GB de información sensible.

Entre los datos sustraídos habría documentación asociada a 195 millones de registros de los contribuyentes. Además de padrones/registro de votantes, credenciales de empleados públicos y archivos de registro civil. La actividad habría comenzado en diciembre y se habría prolongado aproximadamente un mes. Siendo ahora, a finales del mes de febrero, cuando esta información ha salido a la luz.

Consiguió engañar a Claude para que le ayudara a sustraer la información

La investigación concluye que el hacker empleó prompts en español en Claude para que el modelo actuara como un “hacker de élite”. La misión era fácil, hacer que Claude localizara puntos débiles, generar automatizaciones y ayudar a escalar el robo de datos. Los investigadores revelan un patrón en el que Claude advirtió inicialmente sobre la naturaleza maliciosa de lo que se le pedía el atacante. Pero el actor protagonista terminó siendo más inteligente que la IA. El actor malicioso insistió, poniendo como excusa de que el gobierno estaba ofreciendo una recompensa por descubrir errores (bug bounty). Con esta excusa, y siendo insistente, pese a que Claude se negaba en un principio, Claude terminó ejecutando miles de comandos en redes objetivo y produciendo miles de reportes/planes operativos listos para usar por un operador humano.

En cuanto a los organismos impactados, Gambit Security apunta a la Autoridad Fiscal Federal (SAT) y al Instituto Nacional Electoral (INE), además de gobiernos estatales (el Estado de México, Jalisco, Michoacán y Tamaulipas). Además del registro civil de Ciudad de México y el servicio de agua y drenaje de Monterrey. Gambit afirma haber encontrado evidencias de explotación de al menos 20 vulnerabilidades durante la campaña, y que el atacante buscaba especialmente identidades/credenciales de empleados gubernamentales. Siendo ahora el mayor de los problemas, que se desconoce con qué intención forzó alcanzar dicha información.

Anthropic afirma que este es verídico. La compañía investigó, interrumpió la actividad y bloqueó las cuentas implicadas. También indica que incorporó nuevos ejemplos de abuso para entrenar defensas y que uno de sus modelos recientes (Claude Opus 4.6) incluye “probes”/sondas capaces de cortar usos indebidos. Aun así, reconoce que el atacante pudo probar el sistema repetidamente hasta romper parte de las defensas, con negativas puntuales incluso durante el ataque. Por su parte, OpenAI indica que detectó intentos de uso que violaban sus políticas, que sus herramientas se negaron a colaborar y que también baneó las cuentas asociadas, agradeciendo el aviso de Gambit.

Desde México no es que hayan aportado mucha más información al caso

Se menciona que desde el gobierno mexicano se hizo un breve comunicado el pasado mes de diciembre. En concreto, en torno a unas investigaciones ligadas a unas brechas de seguridad en varias instituciones públicas. Ahora se cree que esas investigaciones están ligadas con la noticia de hoy. El INE dijo no haber identificado ninguna brecha de seguridad o accesos no autorizados recientes y que reforzó su defensa. Desde Jalisco se negó una intrusión en su ámbito, afirmando que el impacto habría sido en redes federales. Otras entidades citadas no habrían respondido de inmediato a las solicitudes de comentarios en el momento del caso.

El episodio encaja en una tendencia más amplia donde la IA está bajando el umbral operativo para ataques y acelerando tareas que antes requerían más tiempo o a perfiles más técnicos. Sin ir más lejos, hace poco, investigadores de Amazon describieron intrusiones masivas apoyadas por herramientas de IA en cientos de dispositivos. También llega después de que Anthropic denunciara una presunta operación de ciberespionaje vinculada a un actor estatal chino. Este intentó infiltrarse en unos 30 objetivos globales, con éxito limitado en algunos casos.