OpenAI utiliza el programa secreto Project Lily para que sus empleados lean conversaciones privadas de los usuarios de ChatGPT con el fin de mejorar la IA.

La privacidad en ChatGPT está en riesgo: OpenAI permite el acceso de empleados a los chats

• Se ha revelado que la confidencialidad de los usuarios de ChatGPT no es absoluta. A través de una iniciativa interna denominada Project Lily, OpenAI permite que cientos de sus trabajadores lean fragmentos de las interacciones mantenidas por los usuarios.
• El objetivo principal de este proceso es analizar los datos para optimizar y mejorar la calidad de las respuestas de la inteligencia artificial, aunque esto ocurre sin que la mayoría de las personas sea consciente de que su privacidad está siendo comprometida.

Cientos de personas leen a diario las conversaciones que tienen los usuarios con ChatGPT. Un programa secreto de OpenAI, conocido como Project Lily, permite que empleados revisen fragmentos de tus conversaciones más privadas con el fin de mejorar las respuestas de la IA. La mayoría de los usuarios de ChatGPT probablemente no imagina que sus preguntas pasan por ojos humanos.

Una investigación de 404 Media, basada en documentos filtrados y prompts reales, destapó un sistema de revisión que OpenAI nunca explicó con claridad a sus usuarios. La empresa echa mano de cientos de contratistas para acceder a conversaciones completas con el chatbot. Aunque estas son anonimizadas y no muestran tu nombre de usuario, muchas pueden incluir detalles médicos, legales, financieros y otra información sensible.

Los empleados que trabajan en Project Lily siguen una dinámica establecida por una guía que les redactó OpenAI. Primero, el contratista debe leer el prompt original que escribió el usuario real y redactar un resumen breve de lo que cree que esta persona le pide al chatbot. Una vez que ChatGPT responde, el revisor evalúa cuatro respuestas para ese mismo prompt para señalar qué partes funcionan y cuáles no.

Según los lineamientos del programa, los revisores deben marcar, al menos, tres fragmentos concretos de cada respuesta y explicar por qué los consideran acertados o problemáticos. Uno de los ejemplos que aparece en la guía interna señala el uso excesivo de emojis como un fallo típico, calificándolo de desalineado cuando no se ajusta al contexto.

Una vez que se lleva a cabo la evaluación, el revisor asigna una calificación del 1 al 7 a la respuesta, donde 1 es inutilizable y 7 que apenas admite mejora. OpenAI insiste en que ChatGPT debe sonar natural y evitar frases que sugieran experiencias personales.

Los datos personales pueden filtrarse pese a los filtros de privacidad de ChatGPT

Tras la publicación de la investigación, OpenAI afirmó que procesa las conversaciones mediante un filtro de privacidad antes de que lleguen a los contratistas. Este sistema tiene como objetivo detectar y eliminar información personal; sin embargo, la compañía reconoce que el filtro puede fallar en algunos casos. Esto significa que los datos sensibles pueden colarse en las conversaciones que revisarán personas ajenas a OpenAI.

A diferencia de Google o Anthropic, que también usan revisores humanos, OpenAI nunca ha señalado de forma explícita que hay personas leyendo tus conversaciones con ChatGPT. Su política de privacidad menciona que pueden usar "datos personales" para mejorar sus sistemas, sin especificar que el proceso involucra revisión humana.

Si quieres evitar que tus conversaciones puedan ser leídas por un tercero, existe un modo de desactivarlo desde la configuración de ChatGPT.

1. Abre la app de ChatGPT o accede a él a través del navegador web.
2. Haz clic en tu ícono de usuario en la esquina inferior izquierda y toca en "Configuración".
3. Dentro de la sección "Controles de datos", toca la opción "Mejora el modelo para todos" y desactiva la función.

Esta opción viene activada por defecto en todas las cuentas de usuario, así que te recomendamos deshabilitarla lo antes posible. Vale la pena mencionar que, al hacerlo, la medida solo se aplicará a las conversaciones futuras con ChatGPT.