Los deepfakes en video en tiempo real como arma política. Varios parlamentarios europeos han sido engañados con esta tecnología, creyendo estar realizando una videollamada con la oposición rusa Leonid Volkov. Entre ellos se encuentra Rihards Kols, responsable de la comisión de asuntos exteriores de Letonia, Tom Tugendhat, presidente del comité de asuntos exteriores del Reino Unido, así como otros políticos de Estonia y Lituania.

Los deepfakes ya causan estragos en la diplomacia europea

El propio Volkov explica lo mucho que se parece el deepfake a él: “lo más impresionante es ‘mi’ cara en la conferencia telefónica con los parlamentarios del Báltico. Parece mi cara real, pero ¿cómo se las arreglaron para ponerla en la llamada de Zoom? Bienvenidos a la era de los deepfakes”.

Según describe Meduza, los políticos fueron contactados supuestamente por Volkov el pasado 16 de marzo y se solicitó una reunión con la comisión de exteriores para tratar sobre el intento de asesinato de Navalny y los políticos presos en Rusia. La reunión finalmente se produjo con Kols el pasado 23 de marzo, aunque días previos también habrían mantenido una videollamada con otros políticos lituanos.

El problema es que al otro lado de Zoom (o una réplica) no estaban los verdaderos opositores rusos. Ese Volkov en realidad era un deepfake y todo era una trampa para dejarles en mal lugar, según explican los afectados.

“Está claro que la llamada era de la decadencia de la verdad o de la posverdad y los poshechos tiene el potencial de amenazar seriamente la seguridad y estabilidad de los países, gobiernos y sociedades locales e internacionales”, argumenta Kols.

Pese a que hay mecanismos para detectar deepfakes con un alto porcentaje de eficacia, Europol ha alertado en su último informe de los desafíos de esta tecnología, animando a actuar para prevenir estos posibles peligros.

“Los deepfakes son el uso más conocido de la IA como vector de ataque y actualmente no existe una solución tecnológica que se adapte a la medida para detectar eficazmente todo tipo de deepfakes”, explicaba el informe de la policía europea. Este reciente incidente con Rusia es la muestra pública de cómo los deepfakes se utilizan ya hoy en día para engañar y generar posibles conflictos.

El incidente no ha pasado desapercibido para los políticos rusos. Volkov señaló a dos individuos rusos de desplegar estos ataques, aunque estos individuos, cuyos apellidos son Vovan y Lexys ya han desmentido estas acusaciones.

DeepFake anuncio de Lola Flores en España

Tras el anuncio de Cruzcampo, ese en el que se resucita a Lola Flores para hacernos creer que lo más importante a la hora de hablar es el acento, por encima del lenguaje, el idioma o el vestido, nos damos cuenta de que la industria de la postproducción publicitaria ha avanzado a marchas forzadas.

En este proceso se usaron dos programas específicos para crear deepfakes. Por un lado, FaceSwap, un software de código abierto basado en TensorFlow, Keras y Python. Tiene una apariencia muy visual que facilita el trabajo, al menos en una primera fase. Para la segunda fase se requería algo que permitiese profundizar mucho más en los detalles, de forma más artesanal, y usando código. Ese segundo software fue DeepFaceLab, utilizado para esos largos retoques finales.

"La gente tiene que ser consciente de lo que la tecnología puede hacer, que ya no pueden confiar en que todo lo que vean en un vídeo es real. Por eso creo que es muy positivo concienciar de lo que se puede hacer con esta tecnología, con fines como este. De lo contrario lo que pasaría es que estas herramientas solo se utilizarían con fines perjudiciales",

Fuentes:

https://www.theguardian.com/world/2021/apr/22/european-mps-targeted-by-deepfake-video-calls-imitating-russian-opposition

https://www.xataka.com/robotica-e-ia/enganan-a-varios-politicos-europeos-a-traves-videollamada-deepfake-que-imitaba-a-opositor-ruso

https://www.xataka.com/robotica-e-ia/hablan-creadores-deepfake-lola-flores-pese-a-usar-inteligencia-artificial-fue-proceso-bastante-artesanal