YouTube anunció que etiquetará el contenido generado por inteligencia artificial. En un intento por frenar los deepfakes y la desinformación, la compañía activó una opción en el panel de YouTube Studio que permite señalar el contenido alterado. Los creadores deberán revelar si el video incluye material sintético que el espectador podría confundir con algo real.

De acuerdo con una entrada publicada en su blog, YouTube habilitó una herramienta del Creator Studio para etiquetar los videos con material generado por inteligencia artificial. Esta función está destinada al contenido realista —personas, lugares o eventos— que se alteró total o parcialmente, o creado con herramientas de edición. Los videos con estas características ostentarán el tag "Contenido alterado" y se añadirá una pequeña advertencia al público que lo visualiza.

La compañía mencionó que esta etiqueta fortalecerá la transparencia con los espectadores y generará confianza entre los creadores de contenido y su audiencia. Los videos sujetos a esa política serán aquellos que utilizan IA generativa para hacer que una persona real diga o haga algo que no hizo (deepfakes). También se incluyen aquellos con acontecimientos o lugares reales, y las escenas realistas que muestran algo que nunca ocurrió.

Los videos que te manda la tía sobre un majestuoso tornado o tsunami, los deepfakes de Obama o el contenido falso que muestra supuestos bombardeos en una guerra son algunos ejemplos. 

La etiqueta no aplica a videos que incluyan escenas poco realistas o efectos generados con ayuda de una inteligencia artificial. Tampoco se exigirá a los youtubers que revelen si se apoyaron en ChatGPT, Midjourney u otras IA generativas en el proceso de producción, siempre y cuando cumplan con las reglas de IA responsable.

Las etiquetas son opcionales, aunque si no se incluyen en el contenido realista, YouTube lo hará por su cuenta.

Cómo sabremos si un video de YouTube fue generado con una IA

Según la política de divulgación del uso de contenido sintético o alterado, los youtubers deberán activar la casilla "Contenido alterado" dentro del Creator Studio. Al hacerlo, se añadirá una etiqueta en la descripción expandida que indica que el video incluye "sonidos o imágenes editados significativamente o generados digitalmente". De momento, esta leyenda solo aparecerá en la aplicación de YouTube para iOS y Android.

Existe una etiqueta adicional que se aplica al contenido sensible. Los videos que tengan el objetivo de confundir al usuario sobre un evento actual, como las elecciones presidenciales, desastres naturales, salud o conflictos bélicos, mostrarán la leyenda "Contenido alterado o sintético" de un modo más evidente durante la reproducción.

Qué videos incluirán la nueva etiqueta de YouTube

Aunque la etiqueta es opcional y no tiene efecto sobre el alcance o monetización, aquellos que no la activen corren el riesgo de suspensiones o la eliminación del contenido. YouTube ofreció algunos ejemplos de videos a los que se aplicará esta política.

• Música que se genera de forma sintética (incluida la música generada con Creator Music)
• Clonación de la voz de otra persona para usarla como voz en off
• Generación de forma sintética de videos adicionales de un lugar real, como un video de un surfista en Maui para un video promocional de viajes
• Generación de forma sintética de un video realista de un partido entre dos jugadores profesionales de tenis reales
• Contenido en el que parezca que una persona da un consejo que en realidad no dio
• Modificación digital de un audio para que parezca que un cantante popular no alcanzó una nota en su presentación en vivo
• Representación realista de un tornado o de otros eventos climatológicos que se aproximan a una ciudad real, pero que en realidad no se produjeron
• Contenido en el que parezca que los trabajadores de un hospital rechazaron a pacientes enfermos o heridos
• Representación de una figura pública robando algo que no robó o admitiendo que robó algo cuando no lo admitió
• Contenido en el que parezca que una persona real fue arrestada o encarcelada

Por otro lado, las ediciones menores o el uso de IA generativa para restaurar un video (mejora de nitidez, resolución o sonido) no requieren la etiqueta. Tampoco se aplicará a los videos que utilizan miniaturas creadas con Midjourney o Dall-E.

Fuentes:

https://hipertextual.com/2024/03/youtube-etiquetara-videos-generados-inteligencia-artificial