«Taylor Swift AI» se convirtió en tendencia en X (Twitter), luego de que se difundieran fotos falsas sexualmente explícitas de la cantante. El caso evidencia una práctica violenta que no solo apunta contra famosas y que crece desde hace años.

Varias imágenes sexualmente explícitas con el rostro de Taylor Swift inundaron las redes esta semana. Son deepfakes, contenido falso generado con inteligencia artificial. Una de las fotos viralizadas en X (antes Twitter) fue vista más 47 millones de veces antes de ser eliminada. El escándalo ha dejado en evidencia uno de los peligros de las nuevas herramientas —advertido por expertos desde hace años—, que afecta especialmente a las mujeres.

X tardó cerca de 17 horas en suspender la cuenta —de un usuario «verificado», por cierto— que publicó el material en cuestión. Antes, la imagen se reenvió más de 24.000 veces y logró cientos de miles de «me gusta». «Taylor Swift AI» se convirtió en tendencia, lo que impulsó la difusión del contenido.

«La publicación de imágenes de desnudos no consensuales (NCN) está estrictamente prohibida en X y tenemos una política de tolerancia cero hacia dicho contenido», dijo luego la red social de Elon Musk en un comunicado. Pero el problema trasciende a esta plataforma.

Estos deepfakes de Taylor Swift, por ejemplo, circularon primero por Telegram. 404 Media informó que estas imágenes se originaron en un grupo de esta aplicación de mensajería, donde los usuarios comparten imágenes explícitas de mujeres que son generadas utilizando inteligencia artificial.

Esta vez fue Taylor Swift, pero la práctica ya suma varias víctimas. Este mes, NBC News detectó deepfakes pornográficas de una treintena de celebridades femeninas. No tuvieron que hacer una investigación muy exhaustiva: les bastó con googlear el nombre del artista junto al término «deepfake».

El caso de Taylor Swift como prueba del daño de los deepfakes

 La inteligencia artificial generativa vino a impulsar una práctica violenta que se desarrolla desde hace años. Sensity AI, una empresa con sede en Ámsterdam que se dedica a detectar contenido falso, ya advertía en 2019 que el 96 % de los vídeos deepfake en internet eran pornográficos. Y que la mayoría tenía como víctimas a mujeres.

Entre el 2018 y 2020, los vídeos falsos disponibles en internet —no solo pornográficos— se estaban duplicando cada seis meses. Con las nuevas herramientas de inteligencia artificial generativa, se supone un crecimiento considerable en la difusión.

No solo afecta a Taylor Swift y otras artistas famosas. Sensity AI también detectó en 2020 que al menos 100.000 deepfakes pornográficos de mujeres se habían distribuido en grupos de Telegram. Usuarios de estos canales dijeron entonces que usaban bots para generar el contenido. Con estas herramientas, creaban deepfakes usando fotos que mujeres reales habían publicado en sus redes sociales.

Un escándalo estalló en septiembre pasado en Almendralejo, España. Más de 20 niñas de entre 11 y 17 años denunciaron que habían generado imágenes de ellas desnudas con herramientas de inteligencia artificial. El material se distribuyó por Telegram y WhatsApp, informó la BBC.

Reality Defender, una empresa de ciberseguridad, dijo al New York Times que es casi seguro que las imágenes de Taylor Swift se crearon a través de un modelo de difusión. Es la tecnología que impulsa a varias de las nuevas herramientas generativas de imágenes más famosas, como las de OpenAI, Google o Midjourney. Ben Colman, CEO de Reality Defender, explicó que actualmente hay más de 100.000 aplicaciones y modelos disponibles públicamente.

«Lo que le pasó a Taylor Swift no es nada nuevo. Durante años, las mujeres han sido blanco de deepfakes sin su consentimiento», dijo Yvette D. Clarke, congresista demócrata de Estados Unidos. «Y con los avances en inteligencia artificial, crear deepfakes es más fácil y económico», escribió en X. Hay varios estados en este país que restringen este tipo de contenidos, pero la legislación federal es limitada en este sentido.

¿Qué están haciendo las grandes tecnológicas?

Fuentes:

https://hipertextual.com/2024/01/deepfakes-porno-taylor-swift-violencia-contra-mujeres