Cada vez más personas utilizan la inteligencia artificial a diario tanto para obtener respuestas rápidas a preguntas como para recibir asistencia en el trabajo y en otras áreas. Aunque al principio había mucho odio hacía la IA, al final mucha gente ha acabado cayendo, aceptándola y usándola, aprovechándose de sus capacidades y aumento de la productividad. Lo que la gente no sabe o no quiere aceptar es que no hay prácticamente privacidad en lo que compartimos. De hecho, ahora se habla de Project Lily, el plan de OpenAI de usar humanos para leer los mensajes que mandamos a ChatGPT y de esta forma se mejoran las respuestas.

Entre Internet y la IA, la privacidad online es cada vez más escasa y esto es algo en lo que no podemos hacer mucho. Los países pueden comenzar a regular con nuevas normas, pero aún no tenemos algo que impida que usen nuestra información para beneficio propio. Por tanto, la información que demos a los chatbots se usará y dejará de ser privada, tanto si pasamos documentos importantes como si le damos nuestros informes médicos a ChatGPT Health.

Se filtra Project Lily de OpenAI, su plan de usar humanos para leer mensajes de ChatGPT y mejorar las respuestas

Lo que no sabíamos es que seguía habiendo presencia de humanos en los modelos de IA conocidos como los de OpenAI. Aquí se habla de un informe llamado Project Lily que describe un proyecto donde hay humanos revisando conversaciones reales y transcripciones de ChatGPT para poder evaluar, identificar y mejorar las respuestas dadas. Resulta que esto no son unos pocos trabajadores que ocasionalmente interfieren, sino que OpenAI ha contratado a cientos de empleados externos llamados "prompt reviewers" que analizan los prompts y mejoran las respuestas.

Los revisores reciben conversaciones anónimas y, en principio, no ven directamente el nombre de usuario. Su trabajo consiste principalmente en valorar si ChatGPT responde correctamente a la petición y si evita comportamientos considerados indeseables, exceso de emojis, tono o adulación. Uno de los empleados entrevistados afirma que el trabajo puede superar los 50 dólares por hora.

OpenAI confirma que hay un número de empleados que tienen autorización para acceder al contenido que comparten los usuarios

El problema de Project Lily es la "anonimización" que supuestamente impide que los humanos puedan saber de quién es el mensaje. Aquí es donde se realizó una investigación y se sabe que los revisores obtienen un resumen de la "memoria" del usuario que tiene datos personales e información sobre ellos, incluyendo su ubicación e intereses. Además, la documentación de OpenAI confirma que un número limitado de empleados autorizados y proveedores de confianza puede acceder al contenido de usuarios. OpenAI afirma que ese acceso está limitado y sujeto a controles de seguridad y confidencialidad, pero no recomienda introducir información sensible.

Esto hay que tenerlo en cuenta para aquellos que comparten todo tipo de información personal sobre ellos, sus relaciones, salud mental o problemas familiares. En todo caso siempre puedes cambiar los ajustes en Configuración - Controles de datos - desactivar Mejorar el modelo para todos.