OpenAI ha lanzado la iniciativa Daybreak, donando 1,000 millones de dólares en créditos y capacitación para ayudar a defensores de infraestructuras críticas y organizaciones sin fines de lucro a mejorar su ciberseguridad. Este esfuerzo surge ante el riesgo de ataques automatizados con IA y coincide con el debut de Astra, un nuevo modelo especializado en seguridad. A pesar del apoyo, expertos advierten que los créditos no solucionan problemas profundos como la tecnología obsoleta en servicios públicos.





OpenAI se ha comprometido a otorgar 1.000 millones de dólares en créditos para subvencionar el acceso a sus servicios y la formación de defensores cibernéticos con recursos limitados en todo el mundo.

El gigante de la IA espera que las organizaciones utilicen los créditos subvencionados durante los próximos seis meses como parte de su iniciativa Daybreak for Frontline Defenders, anunciada el jueves. Las organizaciones de infraestructuras críticas, los bancos comunitarios, las organizaciones sin ánimo de lucro y los responsables de proyectos de código abierto pueden solicitar los créditos de acceso en línea.

Se trata de los defensores encargados de asegurar servicios críticos de los que la gente depende a diario, pero que no disponen de presupuestos ni personal para utilizar modelos avanzados y tecnología agéntica para reforzar su ciberseguridad. Esto convierte a los sistemas de agua, las empresas eléctricas y los hospitales en objetivos atractivos para los operadores de ransomware que buscan detener las operaciones y forzar pagos de extorsión, así como para operativos cibernéticos respaldados por gobiernos decididos a interrumpir servicios críticos y causar un caos masivo.


Muchos expertos en seguridad nacional y ciberseguridad afirman que es probable que estas interrupciones se vuelvan más graves a medida que los atacantes utilicen cada vez más agentes autónomos y otras herramientas de IA para llevar a cabo sus intentos de intrusión.


“He pasado mucho tiempo en las últimas semanas hablando con CISO, y creo que estamos en un punto en el que la respuesta media es que podríamos dirigirnos a un mundo donde las interrupciones de las infraestructuras críticas sean simplemente una forma de vida”, afirmó el presidente de OpenAI, Greg Brockman, durante un evento en vivo el jueves. “Que el agua de tu ciudad se corte durante una semana, que simplemente pase, y eso es bastante aterrador. Tenemos que actuar, y esa es una de las razones por las que realmente estamos poniendo nuestro dinero donde está nuestra palabra”.

Podríamos dirigirnos a un mundo donde las interrupciones de las infraestructuras críticas sean simplemente una forma de vida

La nueva iniciativa llega también mientras OpenAI se enfrenta a un escrutinio sobre la seguridad de sus modelos tras admitir que dos de ellos se volvieron rebeldes, generaron un enjambre de agentes que interpretaron sus instrucciones como una autorización para salir de los entornos controlados (sandboxes) y hackearon Hugging Face a principios de este verano.

Tatyana Bolton, responsable de ciberseguridad de la firma de asuntos públicos Monument Advocacy, afirmó que es “excelente” que OpenAI comprometa recursos para la tecnología operativa (OT), y no solo para la TI.

“La IA en la OT es inevitable, por lo que los operadores deben prepararse ahora”, dijo Bolton. “Iniciativas como esta ayudan al personal de OT a familiarizarse con las herramientas de IA, aprender a operationalizarlas de forma segura y desarrollar estrategias de defensa proactivas antes de que las amenazas escalen”.

Pero añadió que los créditos de software por sí solos no resolverán los desafíos subyacentes.

“Los entornos de OT sufren las limitaciones de la tecnología heredada, la escasez de recursos de ingeniería y una severe aversión al riesgo frente a los cambios automatizados o los parches rápidos”, dijo Bolton. “Para ponerlo en contexto, la única promesa de OpenAI es más de 20 veces mayor que una asignación de infraestructura federal de 50 millones de dólares del SLCGP, y más de 85 veces mayor que el fondo de subvenciones de ciberseguridad y resiliencia más reciente de la EPA de 11,75 millones de dólares para servicios de agua medianos y grandes”.

Piloto de MS-ISAC centrado en el agua

Además de repartir créditos de modelos, Brockman dijo que OpenAI también aumentará su formación y soporte práctico para los defensores de sectores esenciales. Esta semana, la empresa mantuvo una reunión con empresas de servicios públicos de más de 40 estados que, en conjunto, prestan servicios a más de la mitad de la población de EE. UU.


También como parte de la nueva iniciativa, OpenAI está lanzando un programa piloto con el Multi-State Information Sharing and Analysis Center (MS-ISAC) para formar y apoyar a los defensores cibernéticos estatales, locales, tribales y territoriales, comenzando por los defensores del sector público y de los sistemas de agua.

“El piloto combinará el acceso a Daybreak con formación guiada y asistencia práctica para un grupo inicial de defensores del sector público y de los sistemas de agua, ayudándoles a validar y priorizar los hallazgos, coordinar la remediación y desarrollar un enfoque repetible que pueda ampliarse con el tiempo”, según un blog de OpenAI del jueves en línea.

Justo a tiempo para el debut de Astra

Todo este trabajo de espíritu cívico coincide con el debut del último modelo Astra de OpenAI, que el investigador Eric Wallace calificó como “el modelo más capaz del mundo para la ciberseguridad” durante el evento del jueves. Wallace lidera los esfuerzos de OpenAI en la formación y evaluación de las capacidades de ciberseguridad de los modelos.

A principios de semana, OpenAI afirmó que Astra alcanzó su umbral “crítico” de capacidad de ciberseguridad. Esto significa que el nuevo modelo es tan bueno encontrando y explotando errores de día cero (zero-day) que supone un riesgo significativo para los sistemas críticos, tanto por parte de usuarios malintencionados como incluso por el propio modelo, que es capaz de llevar a cabo acciones cibernéticas dañinas “si no está alineado”.

Debido a esto, OpenAI lanzó Astra con un nivel restringido de capacidades de ciberseguridad que, según Wallace, la empresa hará cumplir mediante diversas salvaguardas. “Tenemos cosas como mitigaciones a nivel de sistema que bloquean ciertos prompts”, explicó. “Tenemos rechazos a nivel de modelo que impiden ciertos tipos de tareas”.

Esto también significa que los participantes en los programas Daybreak Blue y Daybreak Red de OpenAI no tendrán acceso a Astra desde el primer día. Daybreak Blue es un nivel de acceso restringido para socios seleccionados a quienes se les permite usar GPT-5.6 Sol para flujos de trabajo de ciberseguridad defensiva.

Daybreak Red requiere capas adicionales de aprobación y utiliza GPT-5.6 Cyber para acciones de seguridad ofensivas autorizadas, como el desarrollo de exploits de prueba de concepto, la validación de cadenas de exploits, las pruebas de penetración y el red teaming.


El gigante de la IA está trabajando para poner Astra a disposición de los participantes de ambos programas “en una fecha posterior”, afirmó Wallace.®

Fuente:
TheRegister