OpenAI ha desmantelado una campaña coordinada de más de 15,000 usuarios que intentaban extraer el razonamiento protegido de sus modelos de IA mediante una técnica llamada destilación adversarial. Este razonamiento protegido es el proceso interno que utiliza la IA para analizar y planificar una tarea antes de entregar la respuesta final.

OpenAI detuvo una campaña de destilación adversaria coordinada, presuntamente vinculada a la empresa china Moonshot AI, para extraer razonamientos protegidos de sus modelos. Los atacantes manipularon las interacciones del sistema para reproducir procesos internos y entrenar otros modelos sin respetar las medidas de seguridad originales. OpenAI ya bloqueó las cuentas implicadas y desplegó nuevas mitigaciones para cerrar las vulnerabilidades arquitectónicas explotadas.

Agencias de inteligencia y ciberseguridad de EE. UU. denuncian que seis empresas chinas realizaron ataques de "destilación" a escala industrial contra modelos de IA estadounidenses (como OpenAI, Google y Anthropic) para extraer su conocimiento. Mediante millones de solicitudes fraudulentas, estas firmas buscaron reducir costos y acelerar el desarrollo de sus propias IA, probablemente con el respaldo del gobierno chino. Ante esto, CISA recomienda implementar mejores sistemas de detección de comportamiento y compartir inteligencia para frenar estas prácticas.

Agencias de inteligencia y ciberseguridad de EE. UU. acusan a empresas chinas de extraer sistemáticamente capacidades de modelos de IA estadounidenses mediante ataques de destilación a escala industrial. Estas firmas utilizan métodos fraudulentos y cuentas premium para reducir costos y tiempos de desarrollo, violando los términos de uso. Para combatir esto, se recomienda a las empresas de IA implementar medidas de detección avanzadas y coordinar la mitigación de estas campañas.

Investigadores vinculados al ejército chino están estudiando métodos para convertir los resultados de sistemas de IA occidentales avanzados en modelos más pequeños y económicos. El objetivo es implementar estas herramientas en drones, equipo de campo de batalla, ciberoperaciones y plataformas de seguridad pública. La preocupación radica en que esta técnica podría acelerar el desarrollo de sistemas de uso dual y debilitar las protecciones de seguridad integradas en los modelos originales.

Anthropic acusa a Alibaba de realizar un ataque masivo de destilación de datos mediante casi 25.000 cuentas falsas para extraer capacidades de su IA Claude.

Anthropic ha acusado formalmente al gigante tecnológico y de comercio electrónico chino Alibaba de coordinar una campaña masiva y no autorizada de extracción de datos dirigida a su modelo de IA, Claude. La compañía describe este incidente como el ataque de destilación más grande registrado en su historia.

Anthropic acusa a DeepSeek, MiniMax y Moonshot (IA chinas) de copiar a Claude mediante "destilación", un método cuestionado en el sector.