ClothOff es una app que utiliza inteligencia artificial generativa para desnudar a cualquier persona a partir de fotografías con ropa que funciona de la siguiente manera: Con solo subir una imagen, el sistema genera un resultado muy realista en cuestión de segundos. La aplicación se promociona bajo el lema "desnuda a cualquiera", generando unas 200.000 imágenes al día y acumula alrededor de 27 millones de visualizaciones.

El chatbot del empresario tecnológico Elon Musk, llamado Grok, suele estar en el foco de la polémica. Dicha inteligencia artificial empezó siendo un chatbot sarcástico para que pudiese responder con humor a los usuarios, pero, con el paso del tiempo, empezó a ofrecer respuestas 'normales'. Además, en febrero de este año, Grok recibió instrucciones para ignorar aquellas fuentes que mencionan que Musk y Donald Trump difunden información falsa y, recientemente, se ha dado a conocer que se está usando a Grok para desnudar a mujeres en fotografías.

Una filtración saca a la luz la desprotección de los menores en la red social, el tiempo que necesita su algoritmo para engancharlos o cómo penaliza la visibilidad de las personas "no atractivas". TikTok dice que el material se ha "sacado de contexto"

Tres menores, de entre 14 y 17 años, han sido detenidos por distribuir fotografías de carácter sexual falsas, manipuladas a través de una aplicación, de 13 chicas menores de edad en grupos de redes sociales. Las víctimas tienen entre 13 y 14 años, según ha informado un portavoz de Guardia Civil a Madrid Total.