Trabajadores de OpenAI y Google se rebelan contra el uso militar de la IA, exigiendo a sus líderes rechazar proyectos bélicos y mantener una postura ética unificada.

La situación con respecto a la inteligencia artificial se está yendo de la manos. Este caso no va de respuestas inapropiadas de chatbots o alucinaciones en los chats. Esto es algo más serio.

Por primera vez en mucho tiempo, los trabajadores de Google y OpenAI se han unido en una causa mayor: frenar la militarización de la inteligencia artificial. Casi 1.000 empleados han firmado una carta abierta en contra de sus directivos.

"El Pentágono está negociando con Google y OpenAI para intentar que acepten lo que Anthropic ha rechazado. Intentan dividir a cada empresa por temor a que la otra ceda. Esa estrategia solo funciona si ninguno de nosotros conoce la postura del otro. Esta carta sirve para fomentar el entendimiento y la solidaridad ante la presión del Departamento de Guerra", se puede leer en la carta.

Contextualizando, hace ya unos días, el Departamento de Defensa llamó a la puerta de Anthropic, el tercero en discordia. Querían acceso total y sin restricciones a su tecnología. Anthropic, que ya tenía un contrato de 200 millones de dólares con ellos, se plantó.

Pusieron dos líneas rojas innegociables: su inteligencia artificial no se usaría para vigilancia masiva ni para gestionar armamento autónomo. Como el Pentágono no quiso firmar esas cláusulas, el trato se rompió. Aquí es donde Google y OpenAI entran en escena.

Sin embargo, la reacción de los empleados no se ha hecho esperar. Denuncian que el Gobierno está intentandometer miedo a una empresa con que la otra cederá primero ante la oferta. "Esa estrategia solo funciona si no sabemos qué piensa el de al lado", dicen en el texto.

Los empelados no quieren que sus modelos de lenguaje, diseñados para ayudar a la gente, acaben analizando objetivos para drones o decidiendo quién es sospechoso en una red de vigilancia masiva.

Y, por supuesto, esto es totalmente factible teniendo en cuenta el tipo de tecnología que ambas compañías han creado. Ya hay estudios que demuestran que, en simulaciones de juegos de guerra, la IA tiende a elegir la opción nuclear o soluciones agresivas ante conflictos. Si a eso le sumas que la situación actual del mundo y unas potencias luchando para que la IA entre de lleno en el campo de batalla, la situación es un tanto peliaguda.

Para los trabajadores más veteranos de Google, esto es un 'déjà vu' de 2018

Hace ya bastantes años, los trabajadores de Google vivieron una revuelta interna masiva por el Proyecto Maven, un contrato para usar visión artificial en el análisis de imágenes de drones militares. Aquella vez, la presión de los empleados fue tan fuerte que Google tuvo que rechazar el contrato y redactar unos Principios de IA donde prometían no crear tecnología para causar daño físico o violar normas internacionales de vigilancia.

El problema es que, con la fiebre actual por la IA generativa, parece que esos principios se han quedado en el olvido.

Por el lado de OpenAI, la situación es aún más peculiar. La empresa nació con la misión de que la IA beneficiara a toda la humanidad, pero sus últimos movimientos indican que están muy cómodos acercándose al sector defensa.

El propio Dario Amodei, CEO de Anthropic, ha cargado contra Sam Altman, CEO de OpenAI y creador de ChatGPT, acusándolo de montar un auténtico "teatro de la seguridad" para ocultar acuerdos con el Pentágono.

Según Amodei, lo que está vendiendo OpenAI es, básicamente, una mentira. Mientras Altman se pasea por los medios como el gran pacificador que sabe negociar con el Gobierno sin poner en riesgo a la humanidad, desde Anthropic aseguran que la realidad es más oscura.

Los empleados que han firmado la carta sienten que se está traicionando el espíritu original de la compañía a cambio de contratos millonarios. El miedo es que, si OpenAI o Google aceptan las condiciones que Anthropic rechazó, se cree un precedente peligroso en el que esta tecnología ya forme parte de todo, incluso de gobiernos y departamentos donde jamás debería estar.