Investigadores vinculados al ejército chino están estudiando métodos para convertir los resultados de sistemas de IA occidentales avanzados en modelos más pequeños y económicos. El objetivo es implementar estas herramientas en drones, equipo de campo de batalla, ciberoperaciones y plataformas de seguridad pública. La preocupación radica en que esta técnica podría acelerar el desarrollo de sistemas de uso dual y debilitar las protecciones de seguridad integradas en los modelos originales.

Investigadores vinculados al ejército chino están estudiando formas de convertir los resultados de sistemas de IA occidentales avanzados en modelos más pequeños y baratos para drones, herramientas de campo de batalla, trabajos cibernéticos y plataformas de seguridad pública.

La preocupación no es un único programa malicioso, sino una técnica que podría acelerar el desarrollo de sistemas de doble uso mientras se debilitan las salvaguardas integradas en los modelos originales.

Conocido como destilación, este método entrena a un modelo "estudiante" basándose en las respuestas producidas por un modelo "maestro" más capaz.

Se utiliza ampliamente en el desarrollo legítimo de la IA, pero la investigación revisada describe casos en los que podría usarse para copiar capacidades de razonamiento, eludir restricciones o ocultar el origen de las capacidades de un modelo.

Analistas de Jamestown señalaron en un informe que identificaron un conjunto de investigaciones académicas e industriales chinas publicadas entre 2024 y 2026 que apuntan a un trabajo deliberado en destilación adversarial.

Los artículos vinculan parte de esta investigación con el Ejército de Liberación Popular, universidades vinculadas a la defensa, institutos estatales y organizaciones de seguridad pública.

El problema tiene amplias implicaciones de seguridad ya que los modelos de IA se utilizan cada vez más para procesar inteligencia, guiar herramientas automatizadas, analizar código y apoyar la vigilancia.

Como muestran informes recientes sobre operaciones de intrusión impulsadas por IA en China, la IA ya se está convirtiendo en parte de los flujos de trabajo cibernéticos activos en lugar de seguir siendo una ayuda de investigación pasiva.

Investigadores Militares Chinos Utilizan la Destilación de IA

La revisión de Jamestown encontró que algunos investigadores vinculados al Ejército de Liberación Popular (PLA) se centran en extraer o reproducir los patrones de razonamiento de los principales modelos de IA cerrados.

Esos pasos de razonamiento intermedio pueden mejorar los resultados en programación, lógica y resolución de problemas, pero son costosos de desarrollar de forma independiente.

Un artículo de la Universidad de Ingeniería del Ejército propuso destilar conocimientos sobre cómo romper los mecanismos de seguridad de la IA en herramientas más pequeñas que podrían realizar ataques de forma continua.

Investigaciones independientes de equipos afiliados al PLA exploraron la creación de modelos proxy para ataques de caja negra y la creación de modelos más pequeños que resumieran código a un nivel cercano a GPT-3.5.

La investigación también cubre intentos de hacer que las capacidades copiadas sean más difíciles de identificar.

Un estudio que involucra a investigadores afiliados a unidades cibernéticas del PLA describió métodos destinados a eliminar marcas de agua preservando las capacidades del modelo maestro, mientras que otros trabajos buscaron reducir las señales que las defensas de seguridad utilizan para detectar modelos manipulados.

Estos hallazgos son importantes más allá de las disputas de propiedad de los modelos. Los riesgos de ataques de inyección de prompts que enfrentan los agentes de IA demuestran cómo los modelos pueden ser manipulados cuando instrucciones no confiables son tratadas como comandos legítimos, una debilidad que se vuelve más grave cuando los sistemas están integrados en entornos militares u operativos.

Vigilancia, Ciberseguridad y Salvaguardas

Los artículos revisados indican que los modelos destilados se están proponiendo o utilizando para vigilancia, seguridad pública, análisis de amenazas cibernéticas y tareas relacionadas con el mando militar.

Investigadores conectados a un instituto estatal de ciudades inteligentes describieron modelos de seguridad compactos para procesadores de borde en cámaras callejeras que podrían reconocer rostros entre multitudes en condiciones de poca luz.

Otro instituto dentro del mismo grupo estatal utilizó técnicas relacionadas en herramientas propuestas para la recopilación de inteligencia, detección de malware y rastreo de intrusiones cibernéticas.

Investigadores de la Universidad del Norte de China también describieron la destilación de Claude en un clasificador que podría apoyar el monitoreo de redes sociales y la moderación de contenidos.

La investigación militar también ha examinado la inyección de prompts multimodales, incluyendo experimentos que ocultaban instrucciones escritas dentro de imágenes de tanques y buques de guerra.

Los investigadores afirmaron que GPT-4o y versiones de Claude leyeron y siguieron el texto oculto, reforzando las preocupaciones sobre las instrucciones ocultas dirigidas a sistemas de IA que procesan imágenes y contenido externo.

Jamestown advirtió que los artículos disponibles públicamente probablemente revelan solo una parte de la actividad y pueden describir investigaciones completadas uno o dos años antes.

Si los modelos pueden destilarse sin marcas de agua detectables o rastros de razonamiento reconocibles, evaluar tanto las capacidades reales de los sistemas chinos como la exposición de los modelos occidentales será más difícil.

El informe recomienda separar la destilación normal de la actividad adversarial examinando las capacidades que se están copiando, las organizaciones involucradas y los esfuerzos para ocultar el origen de un modelo estudiante.

Los desarrolladores y los equipos de seguridad deben preservar la procedencia del modelo, monitorear patrones inusuales de extracción a gran escala y limitar las acciones de IA de alto impacto con controles y revisión humana.

La lección más amplia es que la seguridad de la IA ahora se extiende más allá de los fallos de software y el robo de datos.

El uso creciente de modelos en campañas vinculadas al estado, incluidas las redes de contratistas cibernéticos chinos, muestra por qué los gobiernos y las organizaciones necesitan evaluar cómo pueden combinarse las capacidades de la IA, la infraestructura y la intención operativa.

Fuentes:
https://cybersecuritynews.com/chinese-military-researchers-use-ai-distillation/