Todos los contenidos o archivos que se le comparten no se gestionan de forma privada, sino que son usados para entrenar al sistema y pueden aparecer incluso en las respuestas que da a otros usuarios.

Estos peligros no los han tenido muy en cuenta algunos empleados del gigante tecnológico Samsung.

Recientemente, la compañía coreana había permitido a los ingenieros de su división de semiconductores utilizar la aplicación de OpenAI, pero a estos se les fue la mano.

Según se hace eco The Economist Corea, los empleados de Samsung filtraron hasta en tres ocasiones información secreta de la empresa al utilizar ChatGPT.

De acuerdo con un reporte de Economist, los empleados de Samsung filtraron contenido sensible en tres ocasiones, algunas de ellas incluían código fuente. Los incidentes ocurrieron en un lapso de veinte días, luego de que el gigante surcoreano permitiera el uso de ChatGPT en su división de semiconductores. Según el diario, los trabajadores buscaron aprovechar dos características clave del chatbot sin estar conscientes de que los datos terminarían en OpenAI.

Un trabajador le pidió al chatbot que verificara el código fuente de la base de datos confidencial en busca de errores, otro solicitó la optimización del código y un tercero ingresó una reunión grabada en ChatGPT y le pidió que hiciera su minutado.

La primera filtración fue de un ingeniero a cargo de un software interno de base de datos. El empleado se encontró con un error de compilación y se le hizo sencillo copiar y pegar el código fuente en ChatGPT para encontrar la solución. Aunque muchos recurren al chatbot para resolver problemas de programación, OpenAI sugiere a los usuarios que no introduzcan información confidencial.

El segundo leak se dio cuando otro empleado ingresó código utilizado para identificar chips defectuosos y pidió a ChatGPT que lo optimizara. Esta filtración podría considerarse como la más delicada debido al secretismo en los procesos de fabricación en Samsung. Por último, un tercer trabajador ingresó un documento con los detalles de una reunión para que la IA generara una presentación.

Samsung ha tomado medidas

Los informes recogen que después de que Samsung fuera consciente de estas filtraciones decidió restringir el uso de la herramienta, limitando la longitud de las indicaciones de ChatGPT a 1 kilobyte o 1024 caracteres de texto.

Además, parece que el fabricante asiático se encuentra investigando a los tres empleados en cuestión y se habría decidido a desarrollar su propio chatbot para evitar problemas similares en el futuro.

Lo que pocos saben es que toda la información que ingresan en ChatGPT va a parar a los servidores de OpenAI y se utiliza para entrenar el modelo. Esto ya activó las señales de alarma en múltiples compañías, quienes limitan o prohíben a sus empleados el uso del chatbot. Amazon ya envió advertencias a sus trabajadores, mientras que Verizon y JP Morgan Chase optaron por prohibir el uso ante el temor de una filtración.

El caso de Samsung es importante, ya que los datos confidenciales salieron de una de sus divisiones más importantes. Samsung Semiconductor es la encargada de producir los procesadores, sensores de imagen, soluciones de memoria y almacenamiento que emplean tanto sus productos como otros dispositivos de terceros. Un patrón para identificar chips defectuosos requiere un blindaje especial en una industria tan competida como la de semiconductores.

Según el reporte, Samsung esperará al final de las investigaciones para tomar una decisión. La empresa permite que algunos de sus empleados utilicen ChatGPT para que se familiaricen con la tecnología, aunque podría prohibirlo si persisten las filtraciones. Divisiones como las de móviles, experiencia de uso y hogar inteligente no tienen autorizado usarlo en sus equipos de trabajo.

Fuentes:

https://www.itespresso.es/empleados-samsung-filtran-datos-sensibles-chatgpt-241181.html

https://hipertextual.com/2023/04/chatgpt-empleados-samsung-filtran-informacion-confidencial