Anthropic solicita a los laboratorios de IA establecer un mecanismo coordinado y global para pausar el desarrollo de modelos frontera y evitar que los humanos pierdan el control.

• Anthropic, la empresa creadora de Claude, ha emitido una advertencia urgente sobre la seguridad de la inteligencia artificial. La compañía propone la creación de un sistema global y coordinado que permita detener o pausar el avance de los modelos más avanzados en caso de que se detecten riesgos que puedan provocar que los seres humanos pierdan el control sobre esta tecnología.

Anthropic, la compañía detrás del exitoso modelo Claude o Claude Mythos, ha elevado el tono de su discurso sobre la seguridad en inteligencia artificial. La compañía defiende que los grandes laboratorios de IA deberían preparar un mecanismo coordinado, verificable y global para poder frenar o pausar temporalmente el desarrollo de modelos frontera si los riesgos empiezan a superar la capacidad de reacción de la sociedad. La advertencia no habla de una pausa inmediata, sino de tener preparada una especie de “botón de emergencia” consensuado entre los actores más avanzados de la industria.

Según revela Reuters, la propuesta nace del temor a que los sistemas de IA lleguen pronto a una fase de mejora recursiva, es decir, la capacidad de diseñar, entrenar o mejorar sus propios sucesores con una intervención humana cada vez menor.

La IA ya no solo está ayudando a programar, sino acelerar el propio desarrollo de la IA

El argumento central de Anthropic es que la IA ya no solo está ayudando a programar, sino que está acelerando el propio desarrollo de la IA. En su publicación “Cuando la IA se construye a sí misma”, la compañía asegura que sus ingenieros producen de media ocho veces más código por trimestre que en el periodo 2021-2025, y que, a mayo de 2026, más del 80% del código integrado en la base de código de Anthropic fue escrito por Claude. Antes del lanzamiento de Claude Code en vista previa de investigación, en febrero de 2025, esa cifra estaba en dígitos realmente bajos.

La compañía también cita benchmarks externos donde la duración de las tareas que los modelos pueden completar de forma autónoma se estaría duplicando aproximadamente cada cuatro meses. Anthropic afirma que Claude Opus 3 resolvía en marzo de 2024 tareas equivalentes a unos cuatro minutos de trabajo humano. Un año después, con Claude Sonnet 3.7,  ya había llegado a tareas de alrededor de hora y media. Con Claude Opus 4.6 habría alcanzado tareas de 12 horas. Si esa tendencia se mantiene, la empresa cree que este mismo año podrían entrar en rango tareas de varios días, y en 2027 tareas que a una persona cualificada le llevarían semanas.

El problema, según Anthropic, no es solo que los modelos escriban más código, sino que empiecen a cerrar cada vez más partes del ciclo de investigación: escribir código, ejecutar experimentos, analizar resultados, corregir errores y proponer nuevos caminos. En una prueba interna citada por la compañía, Claude pasó de lograr una aceleración aproximada de 3x en un ejercicio de optimización en mayo de 2025 a unos 52x con Claude Mythos Preview en abril de 2026. La compañía matiza que los humanos siguen siendo clave a la hora de fijar objetivos, elegir problemas importantes y ejercer juicio investigador, pero sostiene que esa ventaja humana se está estrechando.

Anthropic no quiere decir que la IA sea peligrosa, pero sí saber si los laboratorios tienen un plan de emergencia

Anthropic habla así de una pausa unilateral que, según sus criterios, apenas cambiaría quién lidera la carrera. Si una empresa se detiene y otra continúa en secreto, el incentivo competitivo y geopolítico seguiría intacto. La dificultad está en que los entrenamientos de IA son más fáciles de ocultar que, por ejemplo, infraestructuras militares visibles, y cualquier acuerdo tendría que definir con precisión qué riesgo activa la pausa, quién lo valida, cómo se verifica el cumplimiento y qué condiciones permiten reanudar el desarrollo.

Anthropic se presenta desde hace años como un laboratorio centrado en seguridad, pero no ha dejado de lanzar modelos cada vez más potentes. Además, según la agencia, en febrero suavizó una promesa clave de seguridad al decir que ya no retendría necesariamente una IA potencialmente peligrosa si sus rivales estaban cerca de igualar esas capacidades. La empresa también llega a este debate en un momento de fuerte interés financiero. Anthropic fue valorada recientemente en 965.000 millones de dólares y había presentado de forma confidencial la documentación necesaria para una salida a bolsa en Estados Unidos.

Al otro lado, por ejemplo, OpenAI (ChatGPT) ha defendido que las decisiones sobre la gobernanza de la IA frontera deben recaer en gobiernos democráticos y no en compañías privadas actuando por su cuenta. En su agenda pública de junio de 2026, OpenAI apoya un marco federal para la seguridad de modelos frontera, evaluaciones de los modelos más capaces, supervisión independiente y seguimiento específico del progreso hacia la mejora recursiva.