Microsoft detectó una masiva campaña de phishing que utilizó el contrabando de ASCII, insertando caracteres Unicode invisibles en palabras clave financieras para evadir filtros de seguridad. Esta técnica, originalmente diseñada para engañar a modelos de IA, fue adaptada para correos electrónicos fraudulentos, alcanzando millones de mensajes. Los expertos recomiendan limpiar los caracteres invisibles en los procesos de análisis de texto para prevenir estos ataques.






Los estafadores han encontrado un nuevo uso para el contrabando de ASCII, utilizado normalmente para ocultar instrucciones maliciosas destinadas a modelos de IA, en un método de ataque tradicional: el phishing por correo electrónico.

Microsoft descubrió una campaña masiva de phishing que utilizaba caracteres de etiqueta Unicode invisibles que alcanzó un máximo de más de 2,37 millones de mensajes a finales de febrero, se mantuvo elevada durante los días laborables durante los tres meses siguientes y disminuyó gradualmente a mediados de junio.

“A medida que los métodos de ataque de la era de la IA se comprenden mejor, los actores de amenazas pueden adaptarlos para su uso en amenazas más tradicionales como el phishing y el spam”, afirmaron los investigadores de Redmond, Noam Kochavi y Sarah Wolstencroft, en un blog del jueves en su blog. “Este caso ilustra cómo las técnicas que surgen en la investigación de seguridad de la IA pueden trasladarse rápidamente a ecosistemas de ataque establecidos, reforzando la necesidad de que los defensores vean las amenazas emergentes a través de una lente multidominio”.


El contrabando de ASCII implica el uso de caracteres Unicode invisibles o que no se renderizan para ocultar contenido dentro de un texto que parece normal para los humanos, y esto lo convierte en una técnica popular para los ataques de inyección indirecta de prompts. En estos, un atacante oculta instrucciones para un asistente de IA en caracteres Unicode invisibles y embebe esos prompts maliciosos dentro de una página web o documento. Un humano no puede verlos, pero un modelo sí, y los decodifica como texto, pudiendo entonces seguir las instrucciones del atacante para filtrar datos o realizar acciones no autorizadas.

Sin embargo, en lugar de utilizar el contrabando de ASCII para la inyección de prompts, el equipo de seguridad de Microsoft detectó que alguien utilizaba caracteres invisibles —insertando espacios de etiqueta Unicode entre las letras— para dividir palabras de señuelo financiero en correos electrónicos de phishing en un intento aparente de evadir la coincidencia de palabras clave y otros filtros de contenido. Así, por ejemplo, en lugar de escribir “funding” en el correo electrónico, los atacantes escribían “fun⟨U+E0020⟩ding”.

“Cuando analizamos una muestra de los mensajes marcados, la sorpresa fue que no había instrucciones contrabandeadas para un asistente de IA”, escribieron Kochavi y Wolstencroft. “En su lugar, los caracteres de etiqueta invisibles se insertaron dentro de palabras clave financieras comunes, dividiéndolas para que una firma literal o una coincidencia de palabras clave fallara”.

Redmond detectó por primera vez la firma de contrabando de ASCII a principios de febrero, marcando unos 21.000 mensajes el 8 de febrero antes de que el número se disparara a más de 1,3 millones al día siguiente. La mayoría de estos correos electrónicos provenían de unos 150 dominios de remitentes temáticos de finanzas, y continuaron durante los tres meses siguientes, cayendo bruscamente después del 15 de mayo pero continuando con picos ocasionales más pequeños al menos hasta mediados de junio.

Los investigadores de seguridad señalaron dos características notables, incluyendo el envío de cantidades masivas de correos electrónicos en días laborables y luego quedar en silencio durante el fin de semana.

La campaña también tuvo un declive largo y gradual. “Después de una primera fase intensa, con volúmenes en días laborables de 1 a 2,37 millones de mensajes, alcanzando el máximo el 26 de febrero, las cifras bajaron lentamente hasta aproximadamente un 80 por ciento menos por día laborable a finales de marzo”. Luego cayó significativamente después del 15 de mayo, continuando con una actividad menor hasta mediados de junio.

Según Redmond, lo más importante que pueden hacer los defensores para protegerse contra los bloques de etiquetas Unicode en los correos electrónicos de phishing es verificar que los procesos de normalización y tokenización manejen los caracteres de etiqueta de manera consistente.

“Cualquier contenido que vaya a ser evaluado por lógica de palabras clave, firma o regex debe tener primero eliminados o plegados los puntos de código Unicode invisibles y que no se renderizan, para que el hecho de intercalarlos en una palabra ya no anule la coincidencia”, escribieron los cazadores de amenazas.

Este mismo control también puede ayudar a reducir la amenaza del contrabando de ASCII contra los asistentes de IA que ingieren contenido de correo electrónico.


Microsoft también sugiere escanear indicadores conductuales. “La actividad observada tenía una forma distintiva: volumen masivo desde dominios desechables temáticos de finanzas, en un horario estricto de activo en días laborables / inactivo los fines de semana”, advirtieron Kochavi y Wolstencroft. “Un pico repentino de caracteres de bloque de etiquetas concentrados en remitentes temáticos de finanzas, activándose y desactivándose semanalmente, es un indicador de campaña de alta confianza”. ®

Fuente:
TheRegister