Los reguladores supervisan a la IA Mythos de Anthropic tras considerarla un peligro para los bancos por su capacidad de generar daño potencial si se usa con fines maliciosos, dejando de ser una herramienta de productividad. 

Mythos, el nuevo modelo de IA de Anthropic, ha generado el caos debido a que es lo suficientemente inteligente como para generar mucho daño si es utilizado para el mal. Un claro ejemplo de ello es que ya la IA ha llegado hasta un punto que no se ve como una herramienta de productividad, sino como un peligro para la seguridad del sistema financiero. Y Mythos ha sido el que ha causado el detonante.

Mythos hizo mucho ruido a principios del vigente mes de abril. Esto fue debido a que detectó miles de vulnerabilidades Zero Day en todos los Sistemas Operativos y navegadores web. Es por ello que es imposible que esta IA vea la luz a día de hoy, ya que generaría el caos. Es por ello que ahora los reguladores de Australia y Corea del Sur han comenzado a seguir de cerca su evolución por el riesgo de que pueda facilitar ataques contra bancos e infraestructuras críticas. Estos, y otros reguladores, ya han dicho que han comenzado a monitorizar el asunto. Todo ello evaluando sus implicaciones para la resiliencia del sistema, o hasta reunirse con responsables de seguridad del sector financiero para revisar el riesgo.

La vigilancia sobre Mythos nace tras una alerta regulatoria internacional mucho más amplia

En los últimos días, el Banco Central Europeo ha comenzado a recabar información para preguntar a los bancos bajo su supervisión por su nivel de preparación. En Alemania, la patronal bancaria trabaja con el ministerio de Finanzas, el Bundesbank, BaFin y expertos de ciberseguridad. Al otro lado, en Reino Unido, el Banco de Inglaterra y otros organismos llevan días tratando de medir hasta qué punto Mythos puede abrir una nueva fase de riesgo operativo y ciberfinanciero.

La razón de fondo es bastante clara: los bancos siguen operando sobre arquitecturas híbridas donde convive el software moderno con sistemas heredados con décadas de antigüedad. Reuters subraya que eso multiplica la superficie de ataque. Si un modelo avanzado es capaz de localizar fallos en ese tipo de entornos complejos. Y claro, siendo capaz de sugerir cómo explotarlos, el problema deja de ser un simple avance técnico y pasa a convertirse en una cuestión de supervisión prudencial y estabilidad financiera. Y es que justo una semana después de que Mythos hiciera ruido, funcionarios de varios países habían mantenido reuniones con grandes entidades para analizar exactamente ese escenario.

Debido a ello, es evidente el por qué Anthropic no ha abierto Mythos al público general. Según la propia compañía, Claude Mythos Preview es un modelo todavía no liberado comercialmente de forma amplia. Por eso lo está canalizando mediante Project Glasswing, una iniciativa defensiva con empresas como AWS, Apple, Google, Microsoft o NVIDIA, además de otras decenas de organizaciones. Anthropic sostiene que el modelo ya ha encontrado miles de vulnerabilidades de alta severidad, incluso en sistemas operativos y navegadores ampliamente usados. Es por ello que lo presenta como una herramienta para reforzar las defensas antes de que capacidades similares se extiendan más.

Anthropic está hablando con Bruselas sobre sus distintos modelos, incluidos los de ciberseguridad

La Comisión Europea confirmó el pasado 17 de abril que Anthropic está entablando conversaciones con Bruselas. En estas conversaciones se han analizado sus distintos modelos, incluidos los de ciberseguridad. También se indica que se ha comprometido con el código europeo de buenas prácticas para IA de propósito general. En Estados Unidos, la Casa Blanca ha reabierto el diálogo con Anthropic para cooperar en ciberseguridad y seguridad de la IA. Recordando que antes de esto, querían prohibir el uso de su IA Claude.

Ahora el aparato federal, por lo que sea, estudia cómo habilitar un acceso controlado a Mythos con salvaguardas. Hemos pasado de querer prohibir el uso de la IA de Anthropic, a recurrir a Mythos como una utilidad estratégica en la tecnología. Y es que claro, quien tenga acceso a esta tecnología, puede tener una ventaja tecnológica bastante importante en cuanto a espionaje.