Instagram retira función de IA por falta de consentimiento

• Debido a la fuerte polémica generada, Instagram ha eliminado una herramienta de inteligencia artificial que permitía crear imágenes basadas en cuentas públicas. La compañía decidió dar marcha atrás tras recibir numerosas críticas sobre cómo el sistema gestionaba el permiso de los usuarios.

Instagram ha decidido retirar una de sus funciones más controvertidas de inteligencia artificial apenas unos días después de presentarla. La herramienta permitía generar imágenes utilizando como referencia cualquier cuenta pública de Instagram, pero la fuerte polémica generada por su sistema de consentimiento ha obligado a la compañía a dar marcha atrás. El episodio no solo supone un revés para uno de sus últimos lanzamientos, sino que reabre el debate sobre hasta dónde pueden llegar las empresas cuando utilizan la imagen de sus propios usuarios.

La función, integrada en el nuevo modelo Muse Image de Meta AI, permitía crear imágenes inspiradas en personas reales simplemente mencionando su cuenta pública de Instagram mediante una arroba. Sobre el papel, la compañía la presentaba como una herramienta creativa para generar nuevos contenidos. Sin embargo, el funcionamiento planteaba un problema evidente: la persona cuya imagen servía como referencia no tenía que autorizar previamente ese uso.

Y ahí comenzó la polémica. En lugar de solicitar un consentimiento expreso antes de permitir que la imagen de un usuario pudiera emplearse como referencia para generar contenido mediante IA, Meta optó por un sistema de «opt-out». Es decir, todos los usuarios mayores de edad con cuentas públicas quedaban incluidos por defecto y solo podían impedirlo si localizaban la opción correspondiente y decidían desactivarla manualmente. En otras palabras, Meta consideró aceptable utilizar por defecto la imagen de millones de personas para alimentar una nueva función, dejando en manos de los propios usuarios la responsabilidad de impedirlo si no estaban de acuerdo.

La reacción no tardó en llegar y fue mucho más allá de las habituales críticas en redes sociales. La poderosa agencia de representación Creative Artists Agency (CAA), que trabaja con figuras como Tom Hanks o Meryl Streep, pidió públicamente a Meta que abandonara ese planteamiento y defendió que ningún nombre, imagen, voz o trabajo creativo debería utilizarse para sistemas de inteligencia artificial sin un consentimiento claro y documentado. Poco después, el sindicato SAG-AFTRA, que representa a actores e intérpretes en Estados Unidos, también instó a sus afiliados a proteger su imagen desactivando la función mientras permaneciera activa.

Resulta especialmente llamativo que Meta haya tenido que retirar la herramienta apenas unos días después de anunciarla. No tanto porque la compañía haya reaccionado con rapidez, sino porque cuesta entender que una empresa con la experiencia, los recursos y los equipos legales de Meta llegara a considerar aceptable un sistema basado en el consentimiento por omisión para una función con implicaciones tan evidentes sobre los derechos de imagen. La marcha atrás parece reflejar, sobre todo, que la empresa calculó muy mal la reacción que podía provocar una propuesta de estas características y terminó encontrándose con una contestación mucho más intensa de la que probablemente esperaba.

En realidad, el caso tampoco puede entenderse como un episodio aislado. A medida que la inteligencia artificial generativa gana capacidades para crear imágenes, vídeos y voces cada vez más realistas, también crece el debate sobre el consentimiento y los derechos de las personas utilizadas como referencia. Otras compañías del sector ya han tenido que revisar iniciativas similares tras recibir críticas relacionadas con el uso de la imagen personal, lo que refleja una sensibilidad creciente tanto entre los usuarios como entre los propios creadores y las organizaciones que los representan.

Más allá del futuro de esta función concreta, el episodio deja una enseñanza difícil de ignorar. Durante demasiado tiempo, algunas grandes tecnológicas han actuado bajo la premisa de que bastaba con ofrecer una opción para darse de baja después del lanzamiento. Sin embargo, cuando lo que está en juego es la identidad, la imagen o la voz de millones de personas, por suerte ese planteamiento parece encontrar cada vez menos aceptación. La polémica de Instagram demuestra que el consentimiento ya no puede tratarse como un simple ajuste de configuración, sino como una condición previa para el desarrollo de este tipo de herramientas. Y, en esta ocasión, Meta ha tenido que aprender esa lección por las malas.

Más información