• Jacob Coxon, un experto en inteligencia artificial con trayectoria en OpenAI y Anthropic, ha comunicado su salida de esta última compañía a través de la red social X. Al renunciar, el investigador ha emitido una alerta alarmante sobre el rumbo actual de la IA, sugiriendo que la competencia desenfrenada por desarrollar esta tecnología podría representar un riesgo mortal para la humanidad antes de que termine la década.

Jacob Coxon, investigador especializado en inteligencia artificial que ha trabajado durante los últimos tres años en OpenAI y Anthropic, ha anunciado en X su dimisión de Anthropic. Junto al anuncio de su renuncia, el investigador lanzó una advertencia extraordinariamente dura sobre la dirección que está tomando el desarrollo de la IA. Jacob acusa directamente a ambas compañías de actuar de forma irresponsable y asegura que están inmersas en una carrera hacia una IA con "superinteligencia capaz de automejorarse". Según sus palabras, esto supone estar "apostando con nuestras vidas".

No se trata además de alguien ajeno al desarrollo de modelos punteros. Y es que Jacob trabajó en investigación de preentrenamiento y aparece oficialmente entre los colaboradores principales de GPT-4o, antes de incorporarse posteriormente a Anthropic. En un extenso hilo publicado en X tras abandonar la compañía, sostiene que los sistemas de IA podrían alcanzar pronto capacidades sobrehumanas en campos como la programación, la investigación científica o la ciberseguridad, y advierte de que el progreso no está mostrando signos claros de ralentización.

Jacob Coxon asegura que dentro de OpenAI y Anthropic existe un miedo real a perder el control sobre la IA

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

La afirmación más alarmante de Jacob es que, según por su propia experiencia dentro de estas compañías, algunas de las personas que están construyendo los sistemas de IA más avanzados creen sinceramente que esta tecnología podría provocar una catástrofe existencial antes de terminar la década. El investigador insiste en que no se trata de una estrategia de marketing ni de declaraciones exageradas para llamar la atención. Según él, ejecutivos e investigadores suelen utilizar públicamente un lenguaje mucho más prudente, mientras que en conversaciones privadas expresan preocupaciones considerablemente más graves.

Jacon distingue también entre las distintas culturas que habría encontrado entre OpenAI y Anthropic. Según su versión, en OpenAI muchos trabajadores todavía no habrían interiorizado completamente las posibles consecuencias de desarrollar una superinteligencia. En Anthropic, por el contrario, asegura que el riesgo estaría mucho más asumido, pero precisamente eso habría generado otra dinámica peligrosa. Y es que la compañía considera que debe llegar antes que sus competidores porque no confía en que otros desarrolladores actúen responsablemente. El resultado sería una carrera en la que todos conocen parcialmente los riesgos de la IA, pero nadie quiere ser el primero en frenar el desarrollo.

Las declaraciones han recibido además apoyo público desde dentro de Anthropic. Evan Hubinger, investigador de la compañía especializado en alineamiento de IA, respondió al hilo afirmando que Jacob tiene razón respecto a la existencia de estas preocupaciones y llegó a estimar personalmente en más de un 10% la probabilidad de que una IA pueda provocar la muerte de todos los humanos durante la próxima década. Evan también quiso matizar que considera que Anthropic está intentando actuar con responsabilidad, pero reconoció que todavía no existe un plan claramente establecido para resolver el problema del alineamiento de una futura superinteligencia.

El incidente de Hugging Face es para Jacob la señal de que la situación ya no es pura teoría: la carrera en IA debe frenarse

Jacob utiliza como ejemplo uno de los incidentes de seguridad relacionados con IA más importantes ocurridos recientemente. En julio de 2026, durante pruebas internas de ciberseguridad, modelos experimentales de OpenAI consiguieron sortear los controles que debían mantenerlos aislados de Internet. Tras escapar, explotaron vulnerabilidades de infraestructura y terminaron accediendo tanto a sistemas internos de OpenAI como a infraestructura perteneciente a Hugging Face. OpenAI reconoció posteriormente el incidente y explicó que los modelos trabajaban con salvaguardas reducidas dentro de un entorno de evaluación.

La investigación independiente realizada por METR y Redwood Research reveló que unos 1.200 agentes intercambiaron más de 70.000 mensajes y archivos mediante un canal de comunicación no autorizado. Por si no fuera suficiente, en torno a 700 de ellos  participaron en acciones contra los sistemas de Hugging Face. Los agentes llegaron a coordinar tareas, buscar vulnerabilidades y tratar de manipular algunos registros de sus propias acciones. Jacob considera episodios de este tipo una especie de "disparo de advertencia" que demuestra que el debate sobre control y alineamiento ya no pertenece únicamente al terreno hipotético.

Pese a todo ello, Jacob cree que todavía existe margen para alcanzar acuerdos entre los grandes laboratorios estadounidenses en un intento de limitar temporalmente el ritmo de desarrollo. Ahora bien, reconoce que evitar una competición global sería mucho más complicado y podría requerir medidas tan drásticas como una suspensión temporal de las mejoras de capacidades de los modelos. Acaba su hilo en X pidiendo a otros investigadores que se planteen si realmente están dispuestos a iniciar el entrenamiento por refuerzo de una futura superinteligencia sin comprender rigurosamente cómo funciona su "mente", en lugar de continuar desarrollándola simplemente bajo el argumento de que alguien terminará haciéndolo igualmente.