Nueva IA de código abierto para detectar vulnerabilidades de forma privada

• Tras los recientes incidentes de seguridad provocados por agentes autónomos, la ciberseguridad está evolucionando rápidamente. Mientras algunos sectores sugieren frenar el avance de los modelos más potentes, otras iniciativas han decidido utilizar la propia inteligencia artificial para fortalecer sus defensas.
• En este contexto surge una herramienta de IA de código abierto diseñada para localizar fallos de seguridad, cuya principal ventaja es que permite analizar el sistema sin necesidad de subir los datos a la red, garantizando así la privacidad y protección de la información.

El hackeo a Hugging Face por parte de agentes autónomos de OpenAI ha sido determinante para cambiar el panorama de la ciberseguridad. Mientras las grandes empresas piden que se retrase el desarrollo de los modelos de frontera, algunos han optado por protegerse ante los inminentes ataques con ayuda de la IA. Uno de ellos es Aikido, quien presentó un modelo de código abierto diseñado para encontrar fallos de seguridad en software.

Conocido como Altar, este modelo puede funcionar dentro de los servidores de cualquier empresa y sin mandar información a internet. Si bien la empresa ya contaba con una herramienta llamada Aikido Machine, que analizaba el código en busca de agujeros de seguridad, esta dependía de modelos más potentes del mercado que están basados en la nube. Esto representaba un problema para organizaciones que no pueden compartir código o documentación interna, como ocurre en sectores como la banca, la sanidad o las plantas industriales.

Para sortear este problema, Aikido construyó un modelo basado en GLM-5.3, la poderosa IA china de código abierto que compite con Claude Opus. Si hacemos memoria, este modelo es uno de los que cuentan con un mejor desempeño en tareas de ciberseguridad; sin embargo, su versión completa ocupa 1,5 terabytes y resulta poco práctica para ofrecerla como una solución de ciberseguridad.

Los desarrolladores consiguieron reducir el tamaño del modelo original, llevándolo primero a 488 GB y luego a 388 GB a partir de técnicas de compresión. Esto le permitiría ejecutarse de forma local con solo cuatro GPUs NVIDIA H200 sin perder su capacidad para razonar y detectar problemas. El equipo se dio cuenta de que para buscar vulnerabilidades en código, solo es necesaria una fracción de los recursos que utiliza GLM-5.3.

El nuevo modelo se ejecuta con cuatro GPU de NVIDIA y puede encontrar vulnerabilidades

En una prueba con 32 vulnerabilidades conocidas repartidas en 30 proyectos de código distintos, Altar logró encontrar 23 de ellas. Este fue el mismo resultado que obtuvo la versión sin recortar del modelo original, pero ocupando un tercio menos de espacio. Comparado con GLM-5.3, Altar retuvo el 92% de su capacidad para detectar fallos de seguridad.

Luego de llevar a cabo los análisis, Aikido implementó su modelo en escenarios reales, en donde encontró una vulnerabilidad crítica durante una auditoría de seguridad. Lo anterior puede parecer poco si comparamos con Claude Mythos o GPT Cyber, pero la diferencia con estos modelos es que Altar puede ejecutarse de forma local y tiene pesos abiertos.

La búsqueda de un modelo con estas características se hizo evidente tras el hackeo de Hugging Face. Hace unas semanas, expertos de seguridad de la startup confirmaron que no pudieron usar los modelos comerciales más potentes mientras determinaban el origen del ataque, ya que ninguno de estos consiguió avanzar por culpa de sus mecanismos de seguridad. En su lugar, el equipo interno de Hugging Face optó por modelos chinos de código abierto.

Aikido mencionó que el objetivo con Altar es conseguir una IA más compacta que conserve la mayor parte de las capacidades de seguridad del modelo original. La empresa añadió que el siguiente paso será ajustar el modelo para flujos de trabajo de seguridad, así como mejorar el uso de herramientas y el razonamiento a largo plazo.