Microsoft está tomando medidas para evitar que los usuarios puedan generar imágenes sexualmente explícitas mediante IA de Taylor Swift y otras celebridades, después de que 404 Media descubierta que las fotos virales de la cantante se han creado mediante Designer, una herramienta que permite generar imágenes mediante una breve descripción de texto.

El citado medio, en concreto, descubrió que las imágenes de Taylor Swift producidas con IA provenían de un foro de 4chan y un canal de Telegram en el que los usuarios se dedicaban a generar fotos explícitas mediante Designer, desarrollada por Microsoft. 404 Media afirma que envío un informe a la compañía, y que Microsoft respondió alegando que están “tomando las medidas adecuadas” para poner fin a esta tendencia.

Más tarde, Microsoft confirmó a 404 Media que no pudieron verificar si las imágenes de Taylor Swift generadas por IA que se hicieron virales en Twitter provenían de Designer. La compañía, no obstante, limitó su herramienta para impedir la creación de este tipo de fotografías, impidiendo el uso de palabras clave explícitas. 

Los usuarios de los foros, sin embargo, encontraron una forma de seguir produciendo imágenes subidas de tono de la cantante y otras celebridades: simplemente escribiendo mal el nombre o creando una descripción que simplemente no detallara un término sexual, pero sí sugerente. Algo que, según el citado medio, la compañía también ha limitado. La fuente afirma que en el canal de Telegram, donde se compartían imágenes de Taylor Swift, ahora solo hay mensajes que destacan que la IA únicamente crea imágenes genéricas.  

Twitter también ha tomado medidas contra las imágenes de Taylor Swift generadas por IA