Los actores de amenazas están manipulando imágenes y videos robados utilizando inteligencia artificial (IA) y deepfake para crear falsificaciones que muestran a personas inocentes, incluidos niños menores y adultos que no dan su consentimiento, en actividades sexuales falsas pero explícitas. Es parte de una nueva ola creciente de estafas sextortion, advierte el FBI.

Es cada vez más frecuente que las víctimas de estas estafas informen a la agencia que sus fotos y videos personales se han publicado en sitios, están siendo manipulados y luego circulados públicamente en las redes sociales o sitios web pornográficos. Los actores de amenazas suelen ponerse en contacto con las víctimas para exigir el pago con dinero o tarjetas de regalo a cambio de eliminar las imágenes o abstenerse de compartirlas con familiares o amigos. Sin embargo, una vez que las fotos y los videos circulan, es difícil para las víctimas asegurarse de que se eliminen por completo de la Web, dijo la agencia, según el FBI.

Desde abril, el FBI ha observado un aumento en los casos de sextortion en donde se informa sobre el uso de imágenes o videos falsos creados a partir de contenido publicado en las redes sociales de las víctimas u otros sitios web.

"Los actores maliciosos usan tecnologías y servicios de manipulación de contenido para explotar fotos y videos... en imágenes de temática sexual que parecen reales a semejanza de una víctima, luego las circulan en las redes sociales, foros públicos o sitios web pornográficos", según el informe.

Además, muchas de las víctimas ni siquiera sabían que sus imágenes habían sido robadas, y mucho menos utilizadas en deepfakes y publicadas en línea, hasta que alguien les notificó su existencia, señala la agencia.

Tácticas avanzadas de sextortion de Deepfakes

La advertencia del FBI es una prueba más de cómo la IA está cambiando el panorama de la seguridad, con nuevas tecnologías como deepfakes y ChatGPT que plantean amenazas avanzadas tanto para usuarios como para organizaciones.

Las estafas de sextortion no son nuevas, pero tradicionalmente han sido aquellas en las que los actores maliciosos obligan a las víctimas a proporcionar fotos o videos sexualmente explícitos de ellos mismos, o roban medios privados de sus teléfonos o almacenamiento en la nube. Luego contactan a las víctimas y amenazan con exponer el contenido explícito en línea, o a familiares y amigos, a menos que las víctimas paguen una tarifa de extorsión o acosen a las personas para que cumplan con otras demandas.

La aparición de la tecnología deepfake, en la que imágenes y videos que parecen reales, lleva estas estafas a un nivel completamente nuevo. Los actores de amenazas ya no requieren que los objetivos ya tengan videos o imágenes de sí mismos desnudos o sexualmente explícitos, ya que ahora pueden simplemente crearlos usando cualquier foto o video de la víctima publicado en línea.

Algunos expertos en seguridad ya predijeron que la sextortion aumentaría este año, con objetivos que se extenderían más allá del típico ejecutivo de negocios de alto perfil y figura pública a básicamente cualquier persona con datos almacenados en un lugar al que los atacantes puedan acceder. 

   Además, estas amenazas a menudo se extienden a los amigos y familiares de personas más reconocibles públicamente, y los atacantes usan información personal o sexualmente explícita o imágenes de seres queridos para obligarlos a cumplir con las demandas, rescate o de otra manera, dijeron los expertos.

Defenderse de las estafas

Las estafas de sextortion pueden tener ramificaciones no solo para los usuarios de tecnología personal, sino también para las organizaciones en los casos en que los líderes empresariales son el objetivo y enfrentan implicaciones para la reputación y daños potenciales para sus respectivos negocios si se expone contenido explícito.

Los "sex-extorsionistas" también pueden obligar a los líderes empresariales a tomar decisiones comerciales potencialmente imprudentes, como exponer datos corporativos, como parte de sus demandas cuando los atacan con fotos o videos comprometedores, que incluso pueden obtenerse de las páginas corporativas "acerca de nosotros".

Para evitar ser atacado o comprometido, el FBI insta a todos a tener cuidado al publicar o enviar mensajes directos de fotos personales, videos e información de identificación en las redes sociales, aplicaciones de citas y otros sitios en línea, dijeron.

"Aunque aparentemente son inocuos cuando se publican o comparten, las imágenes y los videos pueden proporcionar a los actores malintencionados un suministro abundante de contenido para explotar en actividades delictivas", según el aviso.

Para proteger a los niños de ser atacados, los padres y tutores de los niños deben monitorear su actividad en línea y discutir los riesgos asociados con compartir contenido en línea, particularmente en plataformas de redes sociales como TikTok y Snapchat, que son métodos de comunicación populares para los jóvenes.

Los adultos también deberían, en general, evitar el parenting "usar discreción al publicar imágenes, videos y contenido personal en línea, particularmente aquellos que incluyen niños o su información", dijo la agencia. También deben realizar búsquedas frecuentes de su propia información personal y la de sus hijos, incluido el nombre completo, la dirección, el número de teléfono, etc. — para ayudar a identificar la exposición y difusión de información personal en Internet.

Aplicar configuraciones estrictas de privacidad en cuentas de redes sociales para limitar la exposición pública de datos personales y comerciales.

Fuente: DarkReading

Vía:
https://blog.segu-info.com.ar/2023/06/utilizan-deepfake-para-modificar.html