El Pentágono ha solicitado a OpenAI una inteligencia artificial diseñada para obedecer instrucciones militares con el mínimo de negativas.

El Pentágono solicita a OpenAI una IA con estricta obediencia militar

• El Departamento de Defensa de Estados Unidos busca integrar la tecnología de las grandes firmas de inteligencia artificial en sus operaciones. Recientemente, se ha revelado que el Pentágono solicitó a OpenAI el desarrollo de una IA diseñada específicamente para seguir instrucciones militares con la menor cantidad de restricciones o negativas posibles.

El Pentágono es el primer interesado en incluir a sus programas militares los servicios de las grandes compañías de IA en EE.UU., y aunque esto no es noticia, sí que lo es lo que estaban buscando. Según la información filtrada desde la propia EE.UU. querían en exclusiva una la IA de OpenAI que pusiera los mínimos reparos posibles a las peticiones de los militares, es decir, casi nulas negativas.

Así lo recoge documentación obtenida por The Intercept, donde aparecen modelos para seguridad nacional con “tasas mínimas de rechazo”. Una petición que abre una polémica evidente, principalmente, porque estaría destinada a uso militar y a las órdenes del gobierno, donde un NO es una respuesta que no quieren oír.

EE.UU. habló con OpenAI para que les creasen una IA que no ofreciera negativas a ejecutar las órdenes de los altos mandos

En primer lugar, conviene aclarar desde el principio dónde estamos para entender la información filtrada: OpenAI niega haber aceptado esa condición, no dice que sea falsa, y asegura que corresponde a un borrador que pidió modificar. El problema es que la explicación del Gobierno sobre ese documento ha cambiado por el camino.

Para entender el alcance del asunto, hablamos de una investigación que permitió obtener más de 400 páginas de contratos mediante una demanda de acceso a información pública, en colaboración con Legal Advocates for Safe Science and Technology. La documentación abarca acuerdos con OpenAI, Google, Anthropic y xAI, con un importe máximo de 200 millones de dólares por empresa. Ojo, hablamos del techo contractual, no de dinero que necesariamente se haya desembolsado.

Su finalidad incluye desarrollar herramientas que mejoren la ventaja y la toma de decisiones militares. Es decir, una IA que EE.UU. pueda controlar completamente y que no de negativas, que, si una orden se le da, la cumpla sin rechistar.

La fiabilidad y obediencia son primordiales para el Pentágono

La parte más delicada aparece en la modificación P00003, que describe unos «OpenAI Mission Models» destinados a seguridad nacional y con ese mínimo de negativas. ¿Qué significa esto? Que el Pentágono buscaba reducir las ocasiones en las que el modelo rechazase una petición. La expresión, por sí sola, no demuestra que pudiera ejecutar cualquier orden ni que careciera de todas las medidas de seguridad.

Tampoco concreta qué solicitudes debía seguir rechazando, y esta es la información clave que no se ha revelado, pero que podría cambiarlo todo, porque, ¿dónde está el límite realmente?

Y aquí empieza el baile de versiones. El portavoz de OpenAI, Nate Evans, sostiene que la compañía rechazó esa redacción y que el Departamento aceptó eliminarla. Sin embargo, según el reportaje, un abogado del Departamento de Justicia que representaba al Pentágono confirmó inicialmente que el documento era la versión firmada, lo que tira por tierra lo dicho por los de Sam Altman.

Horas después retiró esa confirmación y pidió tiempo para investigar. Posteriormente, Defensa sostuvo que no era la versión definitiva. La petición de información del medio, además, excluía expresamente los borradores.

Mientras tanto, la colaboración descrita contempla datos de evaluación militar, información sobre misiones y amenazas, simulaciones y posibles despliegues de personal en mandos militares. Es una integración que merece examinarse más allá del importe de los contratos.

OpenAI afirma públicamente que mantiene sus salvaguardas y límites sobre vigilancia masiva interna y dirección de armas autónomas. Su explicación oficial atribuye esas garantías al contrato, al despliegue en la nube y a controles técnicos, porque a fin de cuentas, no quiere que la engloben como una empresa militar, o parcialmente militar.

Ahora bien, la cuestión pendiente es qué se firmó exactamente. La petición del Pentágono está documentada; que OpenAI la aceptara sigue en disputa. Publicar la versión definitiva permitiría comprobar cuál de esas explicaciones se sostiene, pero eso, como bien sabemos, nunca va a pasar.