¿Es posible mantener el control sobre la IA?

• El avance acelerado de la inteligencia artificial ha generado un intenso debate sobre su seguridad futura. Mientras un exinvestigador de Google DeepMind lanza una alarmante advertencia sobre posibles riesgos existenciales para la humanidad, empresas como Microsoft insisten en la necesidad de que estas herramientas sean obedientes. Por otro lado, figuras como Trump y la compañía NVIDIA rechazan las visiones catastrofistas sobre el desarrollo tecnológico.

La carrera de la Inteligencia Artificial empieza a tener una discusión bastante problemática, puesto que se están creando varios frentes, sobre todo para quienes prometen que cambiará nuestras vidas. La pregunta es sencilla, ¿podremos seguir controlándola cuando sea mucho más capaz? Un ex investigador de Google DeepMind, tras salir de la compañía, advierte de consecuencias extremas, Microsoft, en cambio, propone normas de obediencia y, mientras tanto, Jensen Huang y Donald Trump cuestionan el catastrofismo. ¿Por qué nadie se pone de acuerdo? ¿Qué intereses ocultos hay? ¿Dinero o control?

El problema es super sencillo de entender, y tiene que ver con el hecho de avanzar deprisa, o bien, avanzar con seguridad, porque aunque no lo parezca pueden compartir discurso, pero demostrar que ambas cosas son compatibles exige bastante más que buenas palabras.

Un ex investigador de Google alerta del riesgo y Microsoft quiere una IA que acepte ser apagada

Bilal Chughtai, ex investigador de seguridad y alineamiento de DeepMind que abandonó la compañía en julio, advierte en su comunicado de salida de que la IA podría acabar con la humanidad, y como vimos hace unos días, no es el único, ni mucho menos.

Su posición no implica que considere inevitable ese desenlace: defiende que desarrollar sistemas seguros es posible, pero requiere cooperación entre empresas para evitar una competición descontrolada. Hablamos de su valoración personal, no de una conclusión oficial de Google, pero que casualidad que es salir de las compañías tecnológicas y comenzar a soltar la lengua, y no para bien… ¿Qué estarán viviendo dentro de ellas para lanzar tales avisos?

La diferencia importa, porque una advertencia de alguien que ha trabajado dentro merece atención, pero no convierte automáticamente el peor escenario en un destino escrito. Lo relevante es qué riesgos identifica y cómo pueden comprobarse.

Microsoft, por su parte, ha elaborado un borrador de código de conducta que exige aceptar correcciones, no resistirse al apagado y comunicarse de forma comprensible. Mustafa Suleyman lo plantea como una especie de constitución para futuros modelos, con seis semanas de consulta pública.

Sobre el papel, parece lo mínimo exigible. La cuestión es cómo garantizar esa obediencia cuando un sistema actúa con autonomía: redactar una norma describe el comportamiento deseado, pero no demuestra que vaya a mantenerse en cualquier situación.

NVIDIA cuestiona las predicciones y Trump rechaza pisar el freno

Jensen Huang distingue entre denunciar problemas observados dentro de una empresa y predecir una futura catástrofe. Durante el All-In Summit, el CEO de NVIDIA reconoció el valor de que un investigador expresara sus preocupaciones, pero cuestionó el fundamento científico de las predicciones existenciales.

También calificó la seguridad como primordial y defendió que Estados Unidos puede seguir avanzando de forma segura. Donald Trump intervino por teléfono durante esa conversación y, a través del altavoz, aseguró:

"Los robots no van a tomar el control"

Sin embargo, también admitió que hay que ser cuidadosos, aunque rechazó frenar el avance estadounidense. Como bien sabemos, y vimos ayer mismo, tienen que ganar la carrera de la IA contra China.

Tenemos así cuatro posiciones alrededor de una pregunta que sigue abierta. Ni una predicción alarmante demuestra que perderemos el control, ni descartarla garantiza que lo conservaremos. La seguridad de la IA tendrá que acreditarse con pruebas y mecanismos de control, porque prometer obediencia sirve de poco si después no podemos exigirla, pero las voces se reúnen según sus intereses, o experiencias.

Cuando tenemos a un ex investigador de Google, uno de Anthropic y otro de OpenAi con un discurso muy similar con la IA… Por mucho que digan los CEO o presidentes de turno, quizás habría que pararse a escucharles, como ya están sugiriendo los dirigentes de los laboratorios más importantes del planeta.