NVIDIA lanza una advertencia severa a los desarrolladores de IA

• Jensen Huang, el director ejecutivo de NVIDIA, ha expresado su preocupación sobre la seguridad en el avance de la inteligencia artificial. El directivo cuestiona quién posee la autoridad para detener los proyectos cuando estos se vuelven peligrosos, subrayando que si los laboratorios de IA no son capaces de controlar sus propios experimentos, deberían ser clausurados para evitar riesgos mayores.

Avisar de que tu Inteligencia Artificial puede causar daños y seguir adelante tiene una pregunta que de momento nadie quiere responder: ¿quién decide cuándo se pulsa el botón de apagado y se dice eso de “hasta aquí”? Jensen Huang, CEO de NVIDIA, ha puesto el foco sobre quienes dirigen los laboratorios de IA, con una advertencia que eleva el tono del debate: si realmente no pueden contener sus experimentos, habría que cerrarlos.

Una respuesta que nadie esperaba por la posición del CEO y de la empresa y que obliga a estas compañías a concretar qué están diciendo cuando hablan de perder el control. Huang expuso su postura durante una entrevista con Ezra Klein en NYT, donde su argumento gira alrededor de la responsabilidad de las empresas sobre sus propios modelos: advertir del peligro no elimina la obligación de evitarlo, ni convierte una decisión empresarial en algo inevitable.

NVIDIA plantea cerrar los laboratorios de IA si sus experimentos no se pueden contener con seguridad

La conversación tiene un detalle que cambia bastante cómo debemos interpretar estas palabras. Huang defendió que un producto inseguro no debería comercializarse, pero Klein le recordó que los sistemas de los que hablaban todavía no se habían lanzado. El problema estaba en las pruebas, y por tanto, guardar el modelo hasta su estreno no resolvía por sí solo lo que estaban discutiendo.

Ahí llegó la respuesta más contundente. Huang sostuvo que, si un laboratorio considera imposible impedir que sus modelos salgan del entorno experimental y dañen el mundo, la solución pasa por detener esa actividad. Además, mencionó posibles responsabilidades civiles y penales por los daños.

La condición importa. No estamos ante una petición concreta para clausurar OpenAI o Anthropic, ni ante el anuncio de una medida de NVIDIA. Huang está llevando el argumento de los laboratorios hasta su consecuencia más incómoda. Si afirman que el riesgo resulta incontrolable, tendrán que explicar por qué deberían continuar esos experimentos.

Huang exige responsabilidad empresarial y aplicar las leyes existentes

El directivo también rechaza que la presión competitiva sirva para justificar el lanzamiento de modelos inseguros. A su juicio, los responsables de estas compañías conservan la capacidad de frenar un producto, aunque sus rivales sigan avanzando.

Sobre la regulación, su postura consiste en reclamar que se apliquen las normas existentes. Considera una distracción el debate actual y recuerda que los laboratorios deben asumir las obligaciones propias de empresas que comercializan tecnología.

Aquí está el choque de fondo: cuánta confianza podemos depositar en que una empresa se frene a sí misma. Exigir responsabilidad tiene sentido, pero deja abierta una cuestión: ¿basta con asumir consecuencias después del daño o hacen falta controles adicionales antes?

Huang ha situado esa responsabilidad sobre la mesa, ahora bien, señalar quién debe responder y demostrar que los mecanismos actuales bastan son dos pasos distintos. Y precisamente en ese segundo paso está buena parte de la discusión.

De hecho, hay otra anexa: ¿está diciendo ahora esto porque es algo que beneficia a EE.UU. frente a China? Si buscan la limitación es con el pretexto del control, ergo si hay control, no hay limitación. ¿Acaso Trump sabe que China no tiene control alguno de sus IA y pretende imponer este pretexto para frenarlos?