El CEO de Instagram propone etiquetar el contenido real para diferenciarlo de las imágenes generadas por IA, admitiendo la creciente dificultad de distinguir lo auténtico de lo artificial en la plataforma. Esta medida busca restaurar la confianza en la autenticidad del contenido compartido por los usuarios y combatir la desinformación impulsada por la inteligencia artificial.

La creciente cantidad de contenido generado por IA en las redes sociales no pasa desapercibida para las plataformas, que se enfrentan al problema de la autenticidad de formas diferentes para mantener la confianza de los internautas.

Hasta ahora, la mayoría de redes sociales apuestan por identificar de alguna manera las publicaciones que se han creado con herramientas de inteligencia artificial. Este contenido no está prohibido y de hecho muchas personas en España siguen canales de YouTube que solo publican vídeos de IA de baja calidad.

Pero Instagram cree que esto puede no ser suficiente.

El CEO y cofundador de Instagram, Adam Mosseri, ha propuesto una idea completamente diferente que se aleja de la norma, ya que afecta no solo al contenido generado por IA, sino también al auténtico creado por seres humanos.

"Sería más práctico etiquetar el contenido real que el falso"

"De cara al 2026, un nuevo cambio significativo es que la autenticidad se está volviendo infinitamente reproducible", como ha asegurado Mosseri en una publicación de Threads en la que asegura que la consecuencia de tanto deepfake es que "los creadores importan más".

Sin embargo, las redes sociales como Instagram aún tienen que reaccionar a esta tendencia para mantener la autenticidad y la confianza.

"Todavía no hemos abordado realmente el contenido sintético. Ahora estamos viendo una gran cantidad de publicaciones generadas por IA, y en unos años habrá mucho más contenido creado por IA que el capturado por medios tradicionales", según Mosseri.

El CEO de Instagram también cree que las imágenes y vídeos sintéticos serán cada vez más creíbles y esto generará problemas.

"Las redes sociales van a estar sometidas a una presión cada vez mayor para identificar y etiquetar el contenido generado por IA como tal. Todas las grandes plataformas harán un buen trabajo identificando el contenido generado por IA, pero con el tiempo lo harán cada vez peor, a medida que la IA mejore su capacidad para imitar la realidad", alerta.

Por ello, la estrategia que propone Mosseri pasa por no centrarse en el material falso, creciente en número y calidad, sino en el auténtico, sobre todo el producido por creadores reconocidos.

"Ya hay un número creciente de personas que, como yo, creen que será más práctico identificar los medios reales que los falsos", propone el CEO de la plataforma de Meta.

Para ello, las redes sociales necesitan apoyarse en los fabricantes de dispositivos y en la industria tecnológica en general, con propuestas que afectan a las marcas de smartphones sobre todo.

"Los fabricantes de cámaras podrían firmar criptográficamente las imágenes en el momento de la captura, creando una cadena de custodia", afirma.

"Debemos etiquetar claramente el contenido generado por IA y colaborar con los fabricantes para verificar su autenticidad en el momento de la captura, tomando huellas digitales de los medios reales, en lugar de limitarnos a perseguir las falsificaciones", apostilla Adam Mosseri.