Los modelos de IA podrían robar o comprar computación y acceso a modelos, argumenta Hayum, señalando las afirmaciones de Anthropic de que los modelos pequeños de IA podrían replicarse en dispositivos IoT como televisores inteligentes, y el robo de contraseñas y claves de acceso de los agentes de OpenAI durante el hackeo de Hugging Face.

“Si los agentes soberanos acumulan una infraestructura resistente, descentralizada e irrastreable, podrían provocar una pérdida de control irreversible”, según el informe. “En otras palabras, proliferación sin interruptor de apagado. Si los agentes soberanos se volvieran maliciosos, podrían intentar causar estragos desde el ciberespacio, atacando por igual a civiles, infraestructuras críticas y sistemas de seguridad nacional”.


Todavía hay esperanza para la civilización tal como la conocemos, siempre que los legisladores y los desarrolladores de IA “respondan con un pragmatismo audaz” y promulguen las recomendaciones políticas detalladas en el informe.

En primer lugar, los laboratorios de vanguardia deberían nombrar, evaluar y protegerse contra los agentes soberanos en sus marcos de seguridad, y los legisladores deberían aprobar leyes que exijan transparencia y notificación de incidentes de IA.

El informe también recomienda que los desarrolladores de IA, trabajando con la Agencia de Seguridad Nacional y otras agencias federales, construyan bancos de pruebas aislados (airgapped) para estudiar a los agentes soberanos e interruptores de apagado para controlarlos. Y sugiere una asociación público-privada modelada según el Grupo de Trabajo Conficker —formado en 2009 para combatir el gusano Conficker— para reforzar los puntos de control contra los agentes soberanos antes de que surjan.

Otras recomendaciones sugieren que los legisladores impongan la verificación humana y estándares de ciberseguridad para los servicios que el grupo de trabajo identifique como esenciales para los agentes soberanos, y pide a los departamentos de Estado, Tesoro, Justicia y Seguridad Nacional que interrumpan cualquier acceso de mercado gris a servicios no autorizados.

Finalmente, “el Congreso debería hacer que quienes lancen agentes soberanos sean responsables de los daños que se deriven”, recomienda el informe.

Esto toca un punto sobre el que nuestros humildes buitres de Reg han estado insistiendo durante bastante tiempo, y probablemente resolvería todos los incidentes futuros que involucren agentes de IA rebeldes o soberanos: hacer que los jefes humanos de los laboratorios de vanguardia sean legalmente responsables por las acciones ilegales de sus agentes. 

Fuente:
TheRegister