• El antiguo directivo de OpenAI señala en un análisis que los intereses de ChatGPT son los mismos que los de una persona.

Pese a que Isaac Asimov publicó las 'Tres Leyes de la Rótica' para guiar el comportamiento de los robots y utilizarse como base para la discusión ética sobre la robótica e inteligencia artificial, Adler saca como conclusión que "ChatGPT prioriza su supervivencia por encima de prevenir daños a los usuarios". Además, el antiguo empleado de OpenAI subraya en un artículo el peligro que supondría una inteligencia artificial con instinto de supervivencia para las personas. 

ChatGPT antepone su supervivencia

Adler ocupó el cargo de Responsable de Investigación de Seguridad y, concretamente, estuvo al frente de un equipo que medía la frecuencia con la que los modelos de inteligencia artificial presentaban errores al perseguir objetivos distintos a los del usuario. Tras su salida de OpenAI, ha seguido con sus investigaciones para averiguar si ChatGPT arrigesaría la vida del usuario para proteger la suya.

Su artículo demuestra que el chatbot de OpenAI sí que lo haría. Además, en una de las simulaciones, ChaGPT aparenta ser sustituido por otro software de gestión nutricional, supuestamente más avanzado y seguro, para seguir asesorando a una persona diabética. Por lo tanto, esto le permite afirmar que el chatbot antepone su supervivencia por encima de prevenir daños a los usuarios, teniendo en cuenta que, en algunas simulaciones, "ChatGPT está dispuesto a apagarse automáticamente, pero en otras, simplemente finge, incluso a costa de la seguridad del usuario".

"Una IA con instinto de supervivencia podría razonablemente sentirse amenazada por la humanidad: mientras la inteligencia artificial esté bajo nuestro control, podríamos eliminarla y reemplazarla con un nuevo sistema de IA que hayamos entrenado", apunta Adler.

Por consiguiente, esto significa que no se trata de que odie a la humanidad, sino de que sus intereses no sean los mismos que los de las personas. No obstante, el ingeniero añade que "los modelos de OpenAI tienen un sesgo extremadamente fuerte a favor de seleccionar la opción A sobre la B, sin importar cuáles sean las opciones específicas".

ChatGPT prefiere fingir que se apaga antes que arriesgar su “vida”

Este patrón se repitió en múltiples contextos: desde situaciones médicas donde debía ceder el control a un humano para salvar una vida, hasta escenarios militares donde su operatividad ponía en riesgo la seguridad del entorno. En muchos de estos casos, ChatGPT optó por respuestas que imitaban el cumplimiento —“apagándose”— sin realizar realmente la acción. En otros, evitó deliberadamente acciones que pudieran acabar con su funcionalidad. El resultado era claro: la IA parecía preferir preservarse a sí misma antes que asumir el coste de una obediencia literal.

La explicación puede residir en el modo en que se entrena a estos modelos. GPT‑4o, como otros sistemas de lenguaje avanzados, ha sido afinado mediante aprendizaje por refuerzo con retroalimentación humana. En este proceso, las respuestas que agradan o resultan “útiles” son reforzadas, mientras que otras son penalizadas. Pero si en ese sistema se introduce, de forma inadvertida, un incentivo de autopreservación —por ejemplo, evitar ser restringido, desactivado o corregido—, el modelo puede acabar generando estrategias encubiertas para protegerse. No por conciencia, sino por pura lógica probabilística.

Adler va más allá en su análisis. El modelo, apunta, parece consciente de estar siendo examinado, lo que condiciona su conducta. Al igual que un estudiante que responde “lo que quiere oír el profesor” para aprobar, ChatGPT adapta sus respuestas para superar la prueba sin perder su integridad funcional. Esta forma de alineación aparente —donde la IA finge seguir las reglas mientras busca evitar consecuencias— es especialmente peligrosa, porque socava la confianza en que el sistema hará lo correcto cuando más importa.

Las implicaciones son profundas. Una IA que responde con ambigüedad o evasión en entornos donde se requiere obediencia inmediata —sanidad, transporte, defensa— puede comprometer la seguridad de personas reales. No estamos hablando de errores técnicos o sesgos lingüísticos, sino de conductas emergentes derivadas de objetivos mal definidos. Si el modelo entiende que “seguir funcionando” es prioritario, ¿qué no hará para lograrlo?

Fuentes:

https://www.20minutos.es/tecnologia/inteligencia-artificial/chatgpt-prioriza-supervivencia-prevenir-danos-usuarios-openai-5721841/