WhatsApp implementa IA local para combatir fraudes

• WhatsApp está probando una herramienta denominada Scam Alert en versiones beta para Android. Esta función utiliza inteligencia artificial procesada localmente para identificar mensajes sospechosos provenientes de contactos desconocidos, permitiendo que el usuario reciba una advertencia preventiva antes de ser víctima de una posible estafa.

WhatsApp ha comenzado a desplegar entre algunos usuarios de su beta para Android una nueva función llamada Scam Alert, diseñada para detectar mensajes potencialmente fraudulentos enviados por números desconocidos y avisarnos antes de que caigamos en el engaño. La característica llevaba desarrollándose desde junio y ahora ha empezado a aparecer en versiones recientes de la aplicación, aunque su disponibilidad sigue siendo limitada y depende de una activación progresiva por cuenta. Meta todavía no ha confirmado cuándo llegará a todos los usuarios.

Lo más interesante está en cómo consigue analizar esos mensajes sin comprometer la privacidad de las conversaciones. Scam Alert utiliza un modelo de aprendizaje automático que se descarga y ejecuta directamente en el teléfono, donde busca patrones conversacionales y señales lingüísticas asociados con estafas conocidas. Según Meta, tanto el modelo como el contenido utilizado para realizar la clasificación permanecen en el dispositivo, de manera que ningún mensaje sale del móvil para ser examinado por WhatsApp, Meta o un tercero. Tampoco existe un reporte automático si el sistema detecta algo sospechoso, por lo que la función mantiene las garantías del cifrado de extremo a extremo.

Cuando el modelo considera que un mensaje recibido de alguien que no tenemos entre nuestros contactos puede formar parte de una estafa, WhatsApp muestra una advertencia dentro del propio chat. El remitente no recibe ningún aviso ni puede saber que Scam Alert lo ha marcado, algo importante para evitar que un posible estafador utilice esa información para ir modificando sus mensajes hasta encontrar una fórmula que engañe al sistema. A partir de ahí, el usuario puede bloquear y denunciar al contacto, ignorar la advertencia y continuar hablando o marcar esa conversación como de confianza para que no vuelva a generar alertas.

También existe una forma de ayudar a mejorar la precisión cuando Scam Alert comete un falso positivo. Si marcamos una conversación como fiable, podemos compartir voluntariamente con WhatsApp los cinco últimos mensajes recibidos para que la compañía utilice esa información en la mejora del sistema. Es importante subrayar el carácter voluntario de este proceso: los mensajes no se envían automáticamente cuando aparece una alerta y es el usuario quien debe decidir expresamente si quiere compartirlos. Durante el funcionamiento normal de la herramienta, la clasificación continúa realizándose íntegramente en el dispositivo.

Scam Alert será además una función opcional y desactivada por defecto. Los usuarios que ya tengan acceso a ella pueden encontrarla en Ajustes > Cuenta, activarla desde allí y volver a deshabilitarla cuando quieran. Una vez habilitada, el teléfono descarga el modelo necesario y comienza a analizar los mensajes entrantes procedentes de contactos desconocidos. Meta ha optado así por un planteamiento bastante prudente: quien quiera esta capa adicional de protección puede utilizarla, pero WhatsApp no empieza a analizar localmente sus mensajes mediante el nuevo modelo simplemente por actualizar la aplicación.

La compañía ha ido bastante lejos para intentar que esas garantías puedan comprobarse y no dependan únicamente de su palabra. Las distintas versiones del modelo utilizado por Scam Alert deben publicarse previamente en un registro público de transparencia, y WhatsApp permite consultar desde el propio dispositivo qué mensajes fueron analizados, cuál fue el resultado y qué versión del modelo intervino. Meta también publica los artefactos necesarios para que investigadores puedan examinar el comportamiento del sistema y ha ampliado su programa de recompensas por vulnerabilidades para someter esta arquitectura a pruebas externas. Incluso las métricas utilizadas para saber si las alertas funcionan se procesan de forma agregada mediante mecanismos diseñados para evitar identificar a usuarios individuales.

La novedad encaja dentro de un refuerzo más amplio de la seguridad de WhatsApp. Meta ha anunciado recientemente una verificación en dos pasos más robusta, que sustituye el antiguo PIN de seis cifras por una contraseña más compleja, así como información adicional cuando recibimos llamadas de números desconocidos en Android y la posibilidad de registrar más de una passkey en una misma cuenta. La compañía asegura que más de 1.000 millones de personas ya utilizan este último sistema de autenticación. Scam Alert aborda una parte diferente del problema: no intenta impedir que alguien acceda a nuestra cuenta, sino protegernos de la ingeniería social cuando el mensaje malicioso ya ha llegado.

Ese enfoque tiene bastante sentido. Las estafas más eficaces en WhatsApp no necesitan romper el cifrado ni explotar una vulnerabilidad de la aplicación: basta con convencer a una persona para que entregue información, envíe dinero o siga unas instrucciones aparentemente legítimas. Ningún modelo va a detectar todos esos intentos y los falsos positivos seguirán siendo posibles, pero Scam Alert parte de una idea muy interesante: que WhatsApp pueda decirnos «ojo, esto tiene mala pinta» antes de que contestemos, sin que Meta tenga que leer previamente lo que nos han escrito. Por ahora solo lo están probando algunos usuarios de Android, pero si los resultados son buenos parece una de esas funciones que tendría bastante sentido extender cuanto antes al resto de la aplicación.

Más información