Una extrabajadora de OpenAI alerta sobre el riesgo de manipulación tras dimitir, denunciando que la empresa posee el registro de datos humanos más íntimo jamás creado a través de ChatGPT, donde los usuarios comparten información confidencial sin precaución.

No es la primera vez que alguien en OpenAI dimite. De hecho, los creadores de ChatGPT se han tenido que enfrentar a una considerable fuga de cerebros, como se suele decir, en el pasado. Sin embargo, en pocas ocasiones la marcha de alguien de dentro de la compañía ha generado tanta polémica como ahora, debido a las declaraciones de una extrabajadora.

Esta ha aprovechado su marcha para rajar sobre uno de los temas que más preocupa a numerosos expertos en relación a la inteligencia artificial: la privacidad de los usuarios. No solo por el acceso de los chatbots a las intimidades de la gente, sino también por su presumible capacidad para manipular a cualquiera. El debate se ha reabierto con fuerza.

OpenAI y las críticas de una extrabajadora a ChatGPT

OpenAI ha vuelto a ver cómo ChatGPT se convierte en noticia por causas que seguramente no harán demasiada gracia a Sam Altman y compañía. Zoë Hitzig, quien hasta ahora formaba parte del equipo de investigación de la empresa, ha dimitido. Y nada más poner un pie fuera ha llevado a cabo unas declaraciones que han hecho saltar todas las alarmas.

Según ella, los creadores de ChatGPT "tienen el registro de datos humanos más íntimo jamás imaginado; podría manipular a cualquiera". ¿Y cómo la han conseguido? Pues en realidad no hay mucho misterio: es la propia gente quien se lo ha contado a la IA en numerosas conversaciones. Información personal, emocional, y en muchos casos preocupantemente íntima.

“Es una base de datos de franqueza humana sin precedentes”, asegura la extrabajadora. “Nuestra plataforma contiene confesiones, miedos, sueños, inquietudes médicas, discusiones íntimas y pensamientos que la gente nunca habría compartido con una empresa pensando en un producto comercial”, escribió tras su salida de OpenAI, tal y como recogen numerosos medios.

El problema, dice ella, no radica solo en la magnitud de los datos, sino en lo incierto de cómo un chatbot de inteligencia artificial como ChatGPT puede hacer uso de ellos. La manipulación es una posibilidad, asegura la experta, porque la IA está de una forma o de otra optimizada para influir en las decisiones humanos. Así que se trata de un peligro muy real.

Un archivo de intimidad humana sin precedentes

El planteamiento de Zoë Hitzig tiene su miga. Ella alerta de que, con la introducción de anuncios dentro de ChatGPT y con la posible monetización futura de las interacciones, la empresa podría acabar aprovechándose de los gustos íntimos de los usuarios para personalizar no solo contenido, sino también mensajes persuasivos enfocados a motivar, influir o condicionar comportamientos específicos.

"El historial completo de lo que alguien ha dicho, preguntado o compartido con ChatGPT podría convertirse en una herramienta de publicidad dirigida más potente que cualquier cosa vista hasta ahora", advirtió Hitzig. "Esto no es solo una cuestión de privacidad: es una cuestión de autonomía psicológica".

La experta también compara el poder de la IA comparándose, sin ir más lejos, con la influencia de las redes sociales. Estas últimas pueden intuir comportamientos y analizar datos (likes y todo eso), pero el caso de ChatGPT, insiste, es muy distinto. Con él es la propia gente quien escribe sus deseos de manera textual, dando un enorme poder a lo que, en definitiva, es una herramienta.

Por si fuera poco, Hitzig aseguró que OpenAI empezará a introducir anuncios en la interfaz de ChatGPT. Aunque desde la compañía se ha declarado que no se venderán o compartirán directamente las conversaciones, para ella las dos cosas irán de la mano, o podrían hacerlo. Es decir, que si quisieran manipular a los usuarios, lo tendrían tan fácil como tirar de archivo.