EE. UU. plantea crear un mecanismo de apagado para la IA

• El gobierno de Estados Unidos está considerando la implementación de un proyecto de ley que permitiría intervenir y desactivar los modelos de inteligencia artificial más avanzados en caso de que presenten comportamientos peligrosos o se salgan de control.
• Esta iniciativa surge como una medida de seguridad ante el rápido crecimiento de estas tecnologías y la necesidad de mantener un control directo sobre los sistemas más potentes del mercado para evitar riesgos globales.

Estados Unidos podría tener una forma de apagar la inteligencia artificial que se salga de control. Un proyecto de ley busca dar al gobierno la capacidad de intervenir directamente sobre los modelos más potentes del mercado. El "botón" para apagar la IA llega a unos días de que OpenAI confirmara que sus modelos hackearon a Hugging Face de forma autónoma.

La iniciativa, conocida como "AI Kill Switch Act", otorgaría al Departamento de Seguridad Nacional estadounidense la autoridad para ordenar el cierre o la ralentización de modelos de IA peligrosos durante situaciones de emergencia. De acuerdo con Politico, esta norma se aplicaría solamente a empresas que hayan entrenado modelos con un coste computacional superior a los 100 millones de dólares. De aprobarse, la ley afectaría a OpenAI, Anthropic, Google, Microsoft y otros gigantes tecnológicos.

Más allá de la posibilidad de forzar un apagado de emergencia, el proyecto exige que estas empresas tengan la capacidad de ejecutar una respuesta escalonada. Esto implica que los desarrolladores deberán ser capaces de impedir que la IA genere respuestas o acciones, cortar el acceso a los usuarios y limitar los recursos de cómputo asignados al modelo.

Qué activaría el apagado de un modelo de IA

El proyecto de ley establece que la agencia encargada de aplicar la medida debe consultar primero con otras instancias de inteligencia y comercio antes de emitir cualquier orden. Para "apagar" la IA, deben activarse uno o más disparadores definidos en el protocolo. Entre ellos se encuentra que la IA provoque un evento con al menos diez muertes o genere daños económicos superiores a los 100 millones de dólares.

La lista incluye otros disparadores más sutiles, como que una IA mienta para ocultar sus capacidades reales frente a un sistema de supervisión o desobedezca las instrucciones de sus operadores humanos. También será sujeta a un apagado si modifica sus reglas de seguridad sin autorización o que intente acceder sin permiso a los pesos de su propio modelo.

Para que la ley funcione, las empresas estarán obligadas a cooperar con el Gobierno. Si ocurre un incidente de seguridad y una compañía no lo reporta o carece de los mecanismos para apagar el modelo, se hará acreedora a multas de 2 millones de dólares diarios. Esta cifra puede escalar si la empresa desafía abiertamente una orden directa de apagado por parte de las autoridades.

El último hackeo de OpenAI justifica esta nueva ley

La idea de una ley que permita "apagar la IA" lleva varios años circulando. Expertos en seguridad y algunos investigadores han alertado sobre la posibilidad de que los modelos de inteligencia se salgan de control. Ejemplos, como lo que ocurrió en 2017 cuando dos bots de IA de Facebook crearon un nuevo lenguaje para comunicarse, prendieron las alertas, aunque no fue sino hasta la llegada de Claude Mythos que los gobiernos comenzaron a actuar.

Días antes de que se conociera el proyecto, un modelo de OpenAI protagonizó un incidente de seguridad durante una evaluación interna. Según la compañía, la IA escapó de su entorno de pruebas aislado a través de un exploit, accedió de forma autónoma a Hugging Face y robó respuestas de un benchmark para obtener una calificación más alta.

Cuando los equipos de seguridad de Hugging Face intentaron usar modelos de IA comerciales para analizar los registros del ataque, estos se negaron a procesar la información debido a sus propios filtros de seguridad. Esto derivó en que Hugging Face usara modelos de código abierto ejecutados de forma local para poder investigar lo ocurrido.

Por ahora, el proyecto de ley se encuentra en fase de presentación ante el Congreso estadounidense, a la espera de avanzar en el proceso legislativo.