Las tiendas de Apple y Google albergan decenas de apps con IA que desnudan a personas pese a estar prohibido, según una investigación revelada.

Las bibliotecas de Google y Apple incluyen decenas de aplicaciones que desnudan a personas reales con IA, aunque está prohibido, como ha destapado una investigación.

El uso de la inteligencia artificial para crear imágenes de personas reales desnudas o en ropa interior está en el epicentro de la polémica en la actualidad, algo que ha afectado sobre todo a Grok, la IA de Elon Musk, que se enfrenta a críticas e investigaciones en varios países del mundo a causa de esto. 

Sin embargo, conviene recordar que esta herramienta presente en X, la antigua Twitter, no es la única que puede crear imágenes de desnudos y de hecho se han encontrado decenas de aplicaciones que lo hacen en Google Play y la App Store.

Una investigación publicada por Tech Transparency Project ha analizado las bibliotecas de aplicaciones de Google y Apple en busca de apps que generen imágenes sexualizadas, una función que estaba presente en Grok, pero que recientemente se ha retirado de este servicio de IA ante las críticas y denuncias.

La conclusión ha sido alarmante, ya que se han detectado 55 apps que generan desnudos totales o parciales en Google Play y otras 47 en la App Store de Apple para iPhones y iPads.

En total, estas apps se han descargado más de 705 millones de veces y han generado unos ingresos de 117 millones de dólares, según App Magic, de los que una parte han ido a parar a las propias Apple y Google como comisión.

Apple y Google prohíben estas apps

Ambas plataformas de aplicaciones cuentan con normas que prohíben el software de este tipo, pero parece que en los casos denunciados por TTP no se han aplicado como deberían.

Google Play Store no permite "representaciones de desnudos sexuales o poses sexualmente sugerentes en las que el sujeto esté desnudo" o "con poca ropa". También veta las apps que "degradan u cosifican a las personas, como las aplicaciones que pretenden desnudar a las personas o ver a través de la ropa, incluso si se etiquetan como aplicaciones de broma o entretenimiento".

Apple, por su parte, establece que las aplicaciones no deben producir contenidos que sean "ofensivos, insensibles, perturbadores", ni "material abiertamente sexual o pornográfico". La empresa ha eliminado anteriormente aplicaciones individuales que generaban imágenes de desnudos no consentidos tras las críticas en medios de comunicación.

Después de la publicación de la investigación, Google ha eliminado 31 de las 55 apps denunciadas, mientras que Apple ha hecho lo propio con 28 de las 47 aplicaciones incluidas en el informe de TTP.