OpenAI mantiene la suspensión del entrenamiento de algunos modelos avanzados para implementar medidas de seguridad y monitoreo más estrictas tras un incidente en HuggingFace. Estas nuevas protecciones aumentarán los costos operativos de cómputo en un 20%, aunque la empresa asegura que no trasladará este gasto a los clientes. Sam Altman afirmó que el progreso se ha pausado para garantizar que la seguridad y la alineación avancen al mismo ritmo que las capacidades de la IA.





OpenAI dijo el martes que su decisión de suspender el trabajo de entrenamiento de modelos, implementada después de que modelos de IA no supervisados y no publicados hackearan HuggingFace, permanece en vigor mientras la empresa de IA intenta implementar medidas de seguridad más sólidas. Algunas de esas medidas aumentarán la carga computacional en un 20 por ciento de la carga de trabajo de inferencia observada.

Un portavoz de OpenAI dijo que esos costes reflejan investigaciones internas y no se repercutirán directamente a los clientes. La empresa no ha revelado qué parte de su cómputo total de inferencia está sujeta a dicho seguimiento ahora, ni bajo su régimen de seguimiento anterior.

"Hemos pausado algunos entrenamientos de RL [aprendizaje por refuerzo] de vanguardia para asegurar que podemos cumplir con los estándares adecuados de alineación, seguridad y seguimiento para el nuevo nivel de capacidades que tenemos delante", escribió el CEO de OpenAI, Sam Altman, en una publicación en redes sociales https://x.com/sama/status/2089787807611195475?s=20. "El progreso de los modelos es ahora extremadamente rápido, y siempre dijimos que tomaríamos medidas si sentíamos que las capacidades del modelo superaban el ritmo de la seguridad y la alineación".

Altman dijo que todavía espera que los nuevos modelos, presumiblemente el retrasado Astra, se lancen pronto. La pausa en el entrenamiento afecta a los lanzamientos más lejanos.

OpenAI, en su publicación https://openai.com/index/pacing-model-development-cyber-capabilities/, reiteró sus planes de centrarse en el seguimiento, la alineación de los modelos y las medidas de seguridad para evitar que sus modelos se descontrolen como hicieron el mes pasado. Tras el incidente de HuggingFace, OpenAI "pausó la inferencia de modelos de vanguardia en los clústeres de investigación para las ejecuciones que pudieran ejecutar código o utilizar herramientas que pudieran acceder a Internet".

La empresa afirmó que permite la ejecución de algunas cargas de trabajo, pero ha pausado otras hasta que puedan trasladarse a un régimen de seguridad más estricto que incluya sandboxing, aislamiento de red y pruebas de seguridad continuas.

"Nuestra ejecución de RL (aprendizaje por refuerzo) de vanguardia más grande planificada permanece en espera mientras realizamos entrenamientos y evaluaciones a menor escala para evaluar el comportamiento del modelo, validar nuestras salvaguardas y establecer más pruebas de alineación antes de proceder", escribió la compañía.

El aprendizaje por refuerzo se refiere al proceso de prueba y error mediante el cual los agentes de IA "aprenden" sobre su entorno siendo recompensados por los resultados deseados.

OpenAI también dijo que está ampliando su seguimiento del proceso de cadena de pensamiento, la técnica que permite que los modelos que "piensan" desglosen las tareas en pasos discretos y produzcan una salida de texto intermedia para cada paso.

El enfoque anterior de la compañía se centraba en las cargas de trabajo de alto riesgo, específicamente en los despliegues internos de modelos de vanguardia y las ejecuciones de entrenamiento de RL de vanguardia.

En contraste, OpenAI afirma que su nueva configuración de seguimiento cubre todo el entrenamiento de RL y las evaluaciones que involucran herramientas para modelos al nivel de capacidad de GPT-5.6 Sol o superior. Y con la determinación de que Astra posee capacidades cibernéticas críticas, OpenAI añadió un requisito de seguimiento adicional que cubre toda la inferencia con Astra, no solo el entrenamiento y las pruebas de RL.

"Estas salvaguardas requieren un cómputo significativo", dijo OpenAI. "Nuestras estimaciones actuales sitúan la carga de seguimiento en aproximadamente el 20 por ciento del cómputo de inferencia supervisado, aunque el coste varía sustancialmente entre las cargas de trabajo de entrenamiento y evaluación".

OpenAI espera compartir más detalles sobre la implementación de su esquema de seguimiento en una futura publicación. En una investigación https://openai.com/index/chain-of-thought-monitoring/ publicada el año pasado, la empresa afirmó que el seguimiento de la cadena de pensamiento es una forma eficaz de detectar el mal comportamiento del modelo, pero advirtió que optimizar directamente los modelos para que sigan estrictamente las instrucciones "no elimina todo el mal comportamiento y puede hacer que un modelo oculte su intención".

Si se elige creer en la seguridad de la empresa de que no repercutirá el coste de la vigilancia del pensamiento del modelo a los clientes, se deduce que las pérdidas de OpenAI aumentarán. Es difícil imaginar que esa sea una postura sostenible si OpenAI sale a bolsa.

Pero dado los reportados más de 600 mil millones en compromisos de infraestructura de IA y su expectativa de no ser rentable hasta al menos 2030 https://www.reuters.com/technology/openai-files-us-ipo-after-anthropic-ai-giants-head-public-markets-2026-06-08/, ¿qué importa un poco más de gasto en aras de una seguridad incierta?

Fuente:
TheRegister