La unidad de inteligencia de amenazas de Microsoft acaba de publicar un informe en el que revela que piratas
informáticos vinculados a China han comenzado a servirse de
inteligencia artificial generativa para amplificar cuestiones internas
controvertidas en países como EE.UU y Taiwán.
- Un grupo de ciberdelincuentes vinculado a Pekín ha estado creando audios y vídeos para generar crispación antes de las elecciones.
Los actores de amenazas asociados a Pekín han usado estas herramientas para crear contenido audiovisual diseñado para provocar conflictos antes de las elecciones en el país norteamericano y en el asiático.
Así, se han compartido en redes sociales clips de audio generados por IA donde aparecía un destacado candidato a la presidencia de Taiwán en un intento por influir en los votantes hacia el candidato que más le interesa que salga al gobierno chino.
The Record Media informa de que YouTube eliminó rápidamente el contenido
antes de que alcanzara a un gran número de usuarios, pero su
publicación dejó una muestra de lo que actores malintencionados
impulsados por distintos países pueden hacer para crear contenidos
falsos que no sean fáciles de distinguir por los ciudadanos.
El mismo grupo chino de ciberdelincuentes también estaría detrás de una serie de vídeos en los que se ve a presentadores de noticias generados por IA y otros clips para acosar a políticos canadienses el año pasado.
Estos contenidos fake se han promovido a través de una red de 175 sitios web en más de 58 idiomas y cubriendo eventos geopolíticos de alto perfil, especialmente mostrando a EE.UU. de una manera negativa.
Así, se acusa al gobierno estadounidense de provocar los incendios forestales de Hawai o la promoción de teorías de la conspiración sobre el descarrilamiento de un tren en Kentucky.
"Esta es la primera vez que Microsoft Threat Intelligence ha sido
testigo de cómo un actor estatal utiliza contenido de IA en un intento
de influir en una elección extranjera", han señalado los investigadores de la empresa de Redmond.
Por otro lado, Microsoft también halló múltiples cuentas de redes sociales ligadas al Partido Comunista Chino que trataban de hacerse pasar por votantes estadounidenses. Dichos perfiles hacían comentarios para provocar crispación.
"China está utilizando cuentas falsas en las redes sociales para sondear a los votantes estadounidenses sobre lo que más los divide para sembrar división y posiblemente influir en el resultado de las elecciones presidenciales estadounidenses a su favor", ha explicado Clint Watts, director general del Centro de Análisis de Amenazas (MTAC) de Microsoft. "Hay poca evidencia de que estos esfuerzos hayan tenido éxito en influir en la opinión", añade.
Además, Watts advierte de que es muy probable que China siga creando y amplificando contenido generado por IA en beneficio de sus intereses este año, al haber elecciones importantes en India, Corea del Sur y EE.UU.
El responsable de la empresa tecnológica adelanta también que la experimentación de Pekín con memes, vídeos y audios creados por IA generativa continuará y "puede resultar más eficaz en el futuro".
Fuentes:
No hay comentarios:
Publicar un comentario