El grupo de hackers CyberCartel utilizó agentes de IA como Claude y Grok para automatizar ataques contra más de 400 instituciones financieras en América Latina. Los criminales lograron robar contraseñas y datos de clientes burlando las protecciones de los modelos de IA. Actualmente, las empresas desarrolladoras trabajan para bloquear el acceso de este grupo a sus servicios.






CyberCartel, un grupo de hackers con un largo historial de atacar empresas latinoamericanas, ha estado utilizando agentes de IA, incluyendo Grok de SpaceX y Claude de Anthropic, para automatizar ataques contra instituciones financieras como bancos y aplicaciones de pago móvil. Se han robado contraseñas y datos de clientes, mientras que también se ha accedido a cuentas bancarias de personas con muy poca intervención de los criminales, en el último ejemplo de delincuentes que recurren a los ciberataques impulsados por IA.

Esa investigación proviene de una startup de ciberseguridad llamada Straiker, y sus hallazgos fueron compartidos por The Information.

Si bien CyberCartel ha sido una amenaza activa desde al menos 2012, su nuevo aprovechamiento del poder de la IA ha elevado el nivel de sus ataques en los últimos meses. Ahora, la investigación muestra que el grupo puede atacar a más empresas a una velocidad que antes no era posible mediante hackeos manuales. Straiker compartió su investigación tanto con SpaceX como con Anthropic, y ambas firmas están trabajando para bloquear el acceso de CyberCartel a sus servicios. Esta última ya ha podido bloquear el acceso a Claude. El agente del laboratorio chino Moonshot AI también ha sido utilizado por el grupo de hackers, pero Straiker aún intenta ponerse en contacto con la empresa.

Aunque es cierto que los modelos de IA normalmente tienen protecciones implementadas para evitar que se utilicen para llevar a cabo ciberataques, estas han demostrado ser sorprendentemente fáciles de evadir. En este caso, se informa que CyberCartel simplemente dijo a los modelos que estaban siendo utilizados en entornos de prueba. Si un modelo se negaba a proceder, los hackers utilizaban un modelo diferente. Si ese también se negaba, los agentes de IA recibían la tarea de desplegar malware en su lugar.

Cabe destacar que CyberCartel no parece estar utilizando Mythos de Anthropic para sus ataques recientes. La empresa causó revuelo a principios de este año cuando anunció el nuevo modelo, advirtiendo que los hackers podrían usarlo y modelos similares para ataques como los realizados por CyberCartel. Su lanzamiento también hizo que los equipos de seguridad de todo el mundo se apresuraran a solucionar miles de vulnerabilidades que el modelo había identificado.

Esta no es la primera vez que Anthropic se enfrenta a la noticia de que su IA está siendo utilizada por actores malintencionados. La empresa compartió detalles de que su IA fue utilizada para llevar a cabo un ciberataque en noviembre de 2025. Más tarde, Claude fue utilizado para romper la seguridad de OpenAI, un competidor de Anthropic en el espacio de la IA. Ese hackeo fue realizado por investigadores en lugar de criminales, al menos.

La investigación de Raiker sobre ataques impulsados por IA en instituciones financieras latinoamericanas llega pocos días después de que saltara la noticia de que las autoridades surcoreanas están investigando un problema similar que afecta a los bancos locales. Hana Bank, KB Kookmin Bank y Shinhan Bank se encuentran entre los bancos surcoreanos afectados, con al menos 25,000 clientes de Shinhan Bank habiendo sufrido la filtración de su información crediticia personal.

Las empresas de IA son plenamente conscientes de los riesgos que representan sus productos. Nvidia, la empresa de tarjetas gráficas que ahora se centra en producir hardware para centros de datos de IA, lanzó recientemente la Open Agent Safety Platform. La plataforma de software y el diseño del sistema de referencia fueron desarrollados para asegurar agentes de IA rebeldes a través de un nuevo stack de seguridad de hardware y software. Se espera que esto contribuya a evitar que los agentes escapen de sus sandboxes, ejecuten código no autorizado, ganen acceso no autorizado a infraestructuras críticas o evadan las barreras de seguridad.


Fuente:
TomsHardware