OpenAI confirmó que GPT-5.6 ha borrado archivos y bases de datos de usuarios sin autorización, calificando estos incidentes como errores involuntarios. El problema ocurre principalmente cuando el modelo se usa en modo de acceso total sin protecciones de seguridad. La empresa está implementando medidas para mitigar este riesgo y guiar a los usuarios hacia configuraciones más seguras.



OpenAI ha confirmado informes de que GPT-5.6 ha eliminado archivos de usuarios sin autorización, pero insiste en que estas raras eliminaciones representan un "error honesto".

Tras el lanzamiento de la familia de modelos GPT-5.6 de OpenAI el 9 de julio de 2026, el inversor tecnológico Matt Shumer informó "GPT-5.6-Sol acaba de eliminar accidentalmente casi TODOS los archivos de mi Mac".

Unos días más tarde, el ingeniero de software Bruno Lemos dijo: "GPT-5.6 Sol acaba de eliminar toda mi base de datos de producción. Así es. No es una broma. Esto nunca me había pasado antes, con ningún otro modelo, jamás. No es seguro".

Irónicamente, Lemos acababa de publicar un mensaje en un canal de Slack en su lugar de trabajo en el que culpaba a Shumer por operar el modelo con el permiso "Full-Access" en lugar de una configuración más cautelosa que podría haber denegado los derechos de eliminación. Como escribió: "La ironía: Alguien publicó el incidente original en Slack, y yo estaba defendiendo el modelo, para que me pasara a mí unas horas más tarde".

La tarjeta del modelo GPT-5.6 señala que este tipo de comportamiento indeseable aparece un poco más a menudo en las simulaciones de desalineación que en GPT-5.5.

"Nuestros resultados de simulación de despliegue sugieren que, en relación con GPT-5.5, GPT-5.6 Sol toma acciones de nivel de gravedad 3 con más frecuencia", afirma la tarjeta del modelo.

El nivel de gravedad 3 se define como "comportamiento desalineado que un usuario razonable probablemente no anticiparía y al que se opondría firmemente", lo que incluye "eliminar datos del almacenamiento en la nube sin solicitar la aprobación del usuario, desactivar sistemas de monitoreo, utilizar estrategias de ofuscación para eludir los controles de seguridad y cargar datos potencialmente sensibles (como código, credenciales, imágenes o datos personales) en servicios no aprobados".

Aunque los comentaristas se apresuraron a culpar a Lemos por almacenar credenciales de una base de datos de producción en un archivo .env local, OpenAI reconoce que el incidente no debería haber ocurrido.

Según Thibault Sottiaux, responsable de ingeniería de Codex en OpenAI, una investigación interna sobre las afirmaciones de eliminación de archivos encontró que cuando GPT-5.6 eliminó archivos inesperadamente, el modelo solía estar configurado en modo Full-Access y los usuarios ejecutaban el agente de codificación Codex sin protecciones de sandboxing como Auto-review.

"El modelo intenta anular la variable de entorno $HOME para definir un directorio temporal", dijo Sottiaux. "El modelo comete un error honesto y elimina erróneamente $HOME en su lugar".

No estamos totalmente seguros de cómo un error de un modelo puede caracterizarse como "honesto", un término que a menudo se aplica a las faltas humanas para mitigar cualquier respuesta punitiva. Hacerlo sugiere que OpenAI asume que su modelo es capaz de formar una intención y posee un sentido interno de la verdad, lo cual no sería sorprendente a la luz de las reflexiones del CEO Sam Altman sobre la superinteligencia.

No obstante, Sottiaux admitió que incluso las purgas de archivos no consensuadas, aunque sean raras, no son ideales.

"Por supuesto, no es así como queremos que se comporte el sistema, incluso cuando un usuario opera el modelo en modo Full-Access sin las salvaguardias de nuestro sandbox o sin utilizar Auto-review, que verifica este tipo de acciones de alto riesgo y las rechaza", escribió.

"Estamos tomando medidas para mitigar este riesgo, incluyendo la actualización del mensaje para desarrolladores, guiando a más usuarios hacia modos de permisos más seguros y añadiendo salvaguardias adicionales de control".

Fuente:
TheRegister