La carrera de la Inteligencia Artificial empieza a necesitar algo más que nuevos centros de datos, chips y promesas de productividad. Ahora toca explicar quién vigila a unos modelos cada vez más capaces de actuar por su cuenta. Trump ha reunido a varios de los principales nombres del sector y ha firmado un acuerdo para reforzar su seguridad. Sobre el papel, el objetivo está claro: evitar que la tecnología se comporte de formas no previstas. La cuestión es cuánto puede conseguirse dejando buena parte de esa responsabilidad en manos de quienes la desarrollan, porque, ¿va a conseguir Trump con este pacto el control real de la IA por las empresas del sector? Veámos qué se ha firmado.

El pacto, publicado anoche, lleva las firmas de Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk y Jensen Huang, junto a la del presidente estadounidense. Google, Anthropic, Meta, OpenAI, xAI y NVIDIA respaldan así un compromiso que Trump ha descrito como "moralmente vinculante". Y ahí está el matiz que conviene tener presente desde el principio: hablamos de un acuerdo voluntario.

Trump y los gigantes de la IA plantean cuatro niveles de control para sus modelos

El documento se llama "Acuerdo de la Casa Blanca sobre Superinteligencia" y se centra en los modelos de frontera, es decir, los sistemas más avanzados. Propone cuatro capas: controles internos, un equipo que compruebe su funcionamiento, una evaluación externa independiente y un comité independiente del consejo de administración que supervise todo el proceso.

¿Traducido a algo práctico? Que desarrollar el modelo y comprobar que responde bien no basta. También hay que vigilar sus capacidades durante el entrenamiento y después del lanzamiento, detectar comportamientos peligrosos y corregir los problemas encontrados. El texto menciona expresamente ciberseguridad, bioseguridad y amenazas químicas, además de impedir que los modelos hackeen sistemas o accedan a ellos de maneras no previstas.

La lógica de incorporar varias revisiones tiene sentido: si un control falla, otra instancia debería detectarlo. Pero acumular supervisores tampoco garantiza que alguien encuentre el problema a tiempo. La eficacia dependerá de qué se examine, con qué medios y de la capacidad real para exigir correcciones.

Un compromiso voluntario que deja abierta la puerta a futuras leyes

Aquí llega la parte menos espectacular del anuncio. El acuerdo no fija sanciones, plazos concretos de aplicación ni una obligación explícita de publicar los resultados de las auditorías. Las empresas se comprometen a reunirse periódicamente para desarrollar estándares y buenas prácticas, pero el documento deja muchos detalles por resolver.

También contempla que estas medidas puedan incorporarse más adelante a leyes o regulaciones. Por ahora, Trump apuesta por la autorregulación mientras defiende que Estados Unidos mantenga su ventaja tecnológica frente a China.

Firmar supone asumir públicamente una responsabilidad, y eso tiene valor. Ahora bien, la prueba llegará cuando una evaluación detecte un riesgo que obligue a retrasar un lanzamiento. Ahí veremos cuánto pesa este compromiso frente a la presión por llegar antes que el rival. Dicho todo, hay una reflexión final que debemos hacer. ¿Compromete esto en algo a los implicados? Sí, pero poco, puesto que no es ley ni decreto. ¿Hay algún parámetro fijado o baremos que les dicte unas normas? No, ninguno. ¿Habrá sanciones si no cumplen lo que ellos mismos fijan? No, tampoco.

Entonces, podríamos pensar, y con razón, que esto es una escena interpuesta por Trump con algún objetivo que tiene que ver con la IA, donde están creando un relato de cara al mundo con objetivos que, aunque aquí tenemos nuestras teorías, dejaremos para otros artículos conforme se vayan dando los hechos. ¿Qué crees que están tramando exactamente? Os leo en los comentarios.