OpenAI implementará una marca invisible en los textos de ChatGPT y Codex en la Unión Europea para permitir su detección, afectando a todos los usuarios, incluidos los de pago.

OpenAI implementará un sistema de detección invisible para ChatGPT y Codex en la Unión Europea

• OpenAI ha anunciado que introducirá una marca invisible en los textos generados por ChatGPT y Codex dentro de la Unión Europea. Esta medida se aplicará a todos los usuarios, incluyendo a aquellos que pagan una suscripción, con el objetivo de facilitar la identificación de contenidos creados por inteligencia artificial.
• Este cambio es especialmente relevante para profesionales y, sobre todo, para estudiantes, ya que permitirá que las instituciones detecten con mayor facilidad si un escrito ha sido redactado por la herramienta.

Si utilizas ChatGPT para trabajar, preparar un mail o darle una vuelta a un texto, hay un cambio que te interesa conocer, y bastante, porque te pueden cazar de mala manera, sobre todo a los estudiantes. OpenAI incorporará una marca invisible a los textos compatibles de ChatGPT y Codex en la Unión Europea, también en los planes de pago, gracias a la normativa de la UE. Es decir, pasar por caja no te librará de que el contenido generado incluya una señal que permita reconocer su procedencia, de momento, de manera anónima. La compañía anunció la medida en total silencio hace dos días, y su despliegue se hará durante las siguientes semanas.

El asunto tiene más miga de lo que parece, porque una cosa es pedir transparencia sobre el uso de Inteligencia Artificial y otra es cómo se interpreta después esa señal. Porque utilizar una herramienta para ayudarte a escribir no explica, por sí solo, cuánto trabajo has hecho tú. Y ahí es donde empieza el debate, el cual termina con el porcentaje de acierto que afirma la propia compañía.

OpenAI marcará los textos de ChatGPT y Codex en Europa con textGrain: cómo funciona y por qué llega

El sistema se llama textGrain y añade un patrón estadístico a la elección de palabras del modelo. En concreto, un detector busca esa señal en el texto, OpenAI lo introduce para cumplir las exigencias de identificación del contenido generado del Reglamento de IA de la UE, según explica en su comunicado, y lo coteja.

Para el usuario, la particularidad es que no hay un aviso visible que pueda reconocer al leer la respuesta, será transparente, no informará. El texto puede parecer el de siempre, aunque su generación incorpore este mecanismo, así que conviene entender qué hace antes de atribuirle capacidades que no tiene.

El despliegue comprende todos los planes para usuarios elegibles, pero OpenAI no concreta todos los criterios ni afirma que cualquier salida esté cubierta. Es decir, ningún usuario se escapa, ni por lo que pague, aunque no confirman el alcance de la medida o su dureza como tal, e igualmente no anuncia un interruptor para desactivarlo en ChatGPT y Codex. En la API, en cambio, será opcional y estará apagado por defecto.

Y claro, esto abre una pregunta para quienes pagan por estas herramientas de IA: ¿cómo se informa al usuario de que una respuesta concreta incorpora la señal? Hablar de transparencia también debería implicar que quien utiliza el servicio entienda qué está recibiendo, porque la noticia ha salido de puntillas y si no indagamos ni nos habríamos enterado.

El detector tendrá acceso restringido y la marca no demuestra cuánto escribió la IA

Inicialmente, el detector estará reservado a investigadores y organizaciones aprobadas, las cuales, curiosamente, no se nombran. Además, la marca no identifica al usuario ni mide su aportación humana. Tampoco verifica la veracidad del contenido, y no encontrarla no demuestra que lo haya escrito una persona. Sí, es lo que estás pensando: “una medida tocahuevos” que puede fallar mientras acusa.

Esta distinción importa, porque imagina que redactas un texto, consultas cómo mejorar un párrafo y después revisas el resultado. Interpretar una señal de procedencia como una prueba de que has delegado todo el trabajo sería ir bastante más allá de lo que permite concluir. Ya pasa con otros detectores, dan falsos positivos con porcentajes, un servidor estudió el tema con varias IA y fallaban todos más que una escopeta de feria. El objetivo es intentar dilucidar qué consideran los detectores en cuanto a palabras o frases, puesto que lo que menos quiere un redactor es que un bot o IA le clasifique su contenido como generado por esta o aquella IA.

Fallé estrepitosamente, porque o bien si lo generaba con IA no era detectado, algunas daban porcentajes falsos, y cuando escribía del mismo tema otras lo marcaban como hecho por IA, en algunos casos al 100%, otros con porcentajes altos. En definitiva, no funcionaba, y lo intenté durante semanas con decenas de modelos, simplemente no es realista, la precisión era malísima y a mejor te expreses, peor.

Ni OpenAI puede decir si es una redacción, texto, trabajo o informe real

La propia OpenAI reconoce problemas de fiabilidad, lo cual ya nos está diciendo que es una medida para acallar a la UE y poco más. En una evaluación, sustituir por sinónimos el 25% de las palabras redujo la detección del 92% al 17%. Los textos cortos también plantean dificultades, pero va a sentar un precedente si tu texto, un trabajo, un informe, un artículo, queda marcado. ¿Cómo “cojones” demuestras que lo hiciste tú si texGrain dice lo contrario?

La preocupación está, por tanto, en el uso que se haga del resultado. Una herramienta que aporta indicios no debería convertirse automáticamente en un juez de autoría, pero ya se va a implementar. Si termina influyendo en una evaluación académica o profesional, habrá que mirar el proceso y el contexto.

Porque como OpenAI marcará los textos de ChatGPT y Codex esto puede señalar la intervención de una IA, pero el trabajo de una persona merece algo más que un veredicto automático, que encima no es preciso, y jamás lo será, ergo, sirve para entre poco y nada, pero te puede quitar la “presunción de inocencia” de un plumazo, por ejemplo, en un TFG, tras meses de esfuerzo.