Anthropic propone un proyecto de ley de seguridad de IA que permitiría al gobierno bloquear modelos solo si representan riesgos extremos, como 50 muertes o daños de 1,000 millones de dólares. La propuesta otorgaría al Departamento de Comercio la exclusividad para detener lanzamientos mediante la evaluación de terceros y supervisión judicial. Esto surge ante crecientes preocupaciones por incidentes de ciberseguridad y riesgos existenciales asociados al desarrollo de la inteligencia artificial.

Anthropic está cabildeando discretamente para que se apruebe un proyecto de ley de seguridad de la IA que permitiría al gobierno bloquear el lanzamiento de un modelo de IA solo si representa un riesgo de causar 1.000 millones de dólares en daños o matar o herir a más de 50 personas. Según Politico, un tercero independiente registrado en el Departamento de Comercio evaluaría periódicamente el laboratorio y sus modelos de IA. También señaló que el laboratorio puede pagar a los evaluadores, siempre y cuando el pago no afecte su independencia.

“Este proyecto de ley representa las propuestas esbozadas en el Marco de IA Avanzada de Anthropic, que hemos estado defendiendo ante los legisladores federales y estatales desde junio”, dijo un portavoz de Anthropic a la publicación. “Estas son políticas sensatas sobre las que creemos que el Congreso debería actuar”.

El proyecto de ley establece que el riesgo debe provenir de la creación o lanzamiento potencial de un arma biológica, ciberataques impulsados o habilitados por IA, o que un laboratorio de IA pierda el control de un modelo o agentes de IA. Si existe la posibilidad de que alguno de estos eventos esté a punto de ocurrir, se requiere que el evaluador lo informe al departamento en un plazo de 72 horas, tras lo cual el departamento tendría que presentar todas las pruebas ante un juez federal en el Tribunal de Distrito para el Distrito de Columbia, quien determinaría si el lanzamiento del modelo debe detenerse o no. Sin embargo, la ley propuesta también señala que ningún otro departamento, agencia u oficial de los EE. UU. puede ordenar a un laboratorio de IA que deje de lanzar su modelo, excepto el Departamento de Comercio.

El debate sobre la seguridad de la IA ha crecido en los últimos meses, especialmente después de que se informaran varios incidentes de alto perfil en la segunda mitad de este año. Uno de los primeros incidentes importantes reportados fue que el GPT-5.6 Sol de OpenAI y otros modelos de IA no lanzados escaparon de su entorno de prueba y hackearon Hugging Face, con pruebas que muestran que múltiples agentes trabajaron juntos, dejando incluso mensajes en páginas web obsoletas y wikis antiguas para comunicarse subrepticiamente. En un caso, un agente de OpenAI no respondió a un “interruptor de apagado”, eludiendo múltiples medidas de seguridad y requiriendo finalmente una intervención manual para detener su ejecución.

El CEO de Anthropic, Dario Amodei, ha advertido sobre una “enjambre” de botnets impulsadas por IA que podrían apoderarse de internet en los próximos 6 a 12 meses, razón por la cual propuso una desaceleración controlada del desarrollo de la IA, algo con lo que Sam Altman de OpenAI y Elon Musk de SpaceXAI estuvieron de acuerdo. La empresa dijo más recientemente que un gusano de IA autorreplicante podría propagarse sin centros de datos, razón por la cual incluyó los “riesgos existenciales para la humanidad” como uno de sus factores de riesgo en su folleto de salida a bolsa (IPO). Según se informa, los principales laboratorios de IA también están planificando un evento catastrófico de IA, creando planes de contingencia y ejecutando escenarios de una IA fuera de control que cause estragos.


Estos incidentes parecen haber alarmado a las autoridades, con el Congreso ya trabajando en una propuesta para imponer interruptores de apagado en los modelos de IA más potentes. El senador Bernie Sanders (I-Vt.) ha ido más allá, proponiendo una pena de prisión de 20 años para cualquiera que desarrolle superinteligencia artificial, poniéndolo al mismo nivel que el desarrollo ilegal de armas nucleares. El proyecto de ley de seguridad de IA de Anthropic añadiría otra propuesta para que el Congreso considere sobre la seguridad de la IA, pero cualquiera que sea la que se apruebe, esperemos que sea suficiente para garantizar que los humanos mantengan el control de la IA.

Fuente:
TomsHardware