SynthID lanza su herramienta para detectar contenidos de IA

• Identificar si un audio, vídeo o imagen ha sido producido por inteligencia artificial es una tarea cada vez más difícil debido al avance de las herramientas de edición. En este contexto, mientras OpenAI implementa marcas invisibles en los textos de ChatGPT para la Unión Europea, SynthID pone a disposición su propio detector de contenido generado por IA para combatir esta complejidad.

Saber si una imagen, un vídeo o un audio ha sido generado mediante inteligencia artificial resulta cada vez más complicado, especialmente a medida que mejoran los modelos y las herramientas de edición. Ayer mismo veíamos cómo OpenAI comenzará a introducir una señal invisible en determinados textos generados por ChatGPT en la Unión Europea, y ahora Google da otro paso en la misma dirección con SynthID. Su detector, presentado inicialmente con acceso limitado para periodistas, investigadores y profesionales, queda desde hoy abierto a cualquier usuario.

SynthID Detector permite subir imágenes, vídeos o archivos de audio y comprobar si contienen una marca de agua SynthID. La herramienta está disponible globalmente en inglés y requiere iniciar sesión con una cuenta de Google, OpenAI o Apple. La apertura llega después de una primera etapa en la que Google utilizó el portal para recoger opiniones de profesionales, y lo hace además cuando la tecnología ha alcanzado una escala considerable: según la compañía, SynthID ya ha marcado más de 180.000 millones de imágenes y vídeos, además del equivalente a 240.000 años de audio.

La clave está en entender que SynthID no examina un archivo intentando adivinar si «parece» creado por una IA. Su funcionamiento parte de una señal introducida deliberadamente en el propio contenido durante su generación o edición. En imágenes y vídeo, esta marca resulta imperceptible visualmente y está diseñada para resistir transformaciones habituales como recortes, filtros, cambios de velocidad de fotogramas o compresión; en el caso del audio, ocurre algo parecido con modificaciones como la compresión o los cambios de velocidad. El detector busca posteriormente esa señal y comunica al usuario si ha podido encontrarla.

Además, SynthID está dejando de ser únicamente una tecnología asociada a las herramientas de Google. El detector puede reconocer actualmente marcas procedentes de contenido compatible creado con sistemas de Google, OpenAI, NVIDIA y Kakao, mientras que Apple se incorporará próximamente. En el ecosistema de Google ya se utiliza en modelos y servicios como Gemini, Imagen, Veo y Lyria, pero la incorporación de otros proveedores abre la puerta a que SynthID funcione cada vez más como una infraestructura compartida de procedencia, en lugar de limitarse a identificar contenido generado dentro de una única plataforma.

OpenAI es un buen ejemplo de esta evolución. Desde mayo utiliza SynthID junto con Content Credentials para determinadas imágenes generadas mediante ChatGPT, Codex y su API, y posteriormente amplió el sistema al audio. La compañía dispone además de su propia herramienta pública de verificación, capaz de comprobar la presencia de señales SynthID y metadatos C2PA en archivos compatibles. Son dos mecanismos complementarios: los metadatos pueden aportar más información sobre el origen y el historial de un archivo, mientras que una marca integrada en el propio contenido puede sobrevivir a algunas transformaciones que eliminan esos datos.

Eso tampoco convierte a SynthID Detector en un detector universal de contenidos creados con IA. Si la herramienta no encuentra una marca, no podemos concluir que una imagen, un vídeo o un audio tenga origen humano: podría haberse creado con un sistema que no utilice SynthID o haber sufrido modificaciones capaces de hacer indetectable la señal. Del mismo modo, encontrarla tampoco significa necesariamente que todo el archivo haya sido generado desde cero mediante inteligencia artificial, ya que puede tratarse de contenido original que posteriormente haya sido editado con una herramienta compatible. La marca aporta información sobre procedencia, pero no resuelve por sí sola todas las preguntas sobre cómo se creó una pieza.

La apertura pública de SynthID Detector y la reciente llegada de textGrain a los textos de ChatGPT en la Unión Europea muestran dos aproximaciones distintas a un mismo problema. Cada vez parece menos realista esperar un detector capaz de observar cualquier archivo y decidir por sí solo si es «real o IA». La tendencia apunta más bien hacia un ecosistema en el que las propias herramientas incorporan señales durante la generación y otros servicios pueden comprobarlas después. SynthID todavía está lejos de cubrir todo el contenido sintético que circula por Internet, pero abrir su detector a cualquier usuario convierte esa idea de procedencia verificable en algo bastante más accesible.

Más información