El gobierno del Reino Unido enfrenta críticas por no incluir medidas legislativas específicas contra los riesgos de la IA en su nueva ley de ciberseguridad. Esto ocurre ante advertencias sobre amenazas autónomas y la incapacidad de las empresas del sector para autorregularse. 





Los funcionarios del Reino Unido se han quedado cortos al no comprometerse con medidas específicas para la IA en el Proyecto de Ley de Ciberseguridad y Resiliencia, a pesar de que los ministros prometieron legislar donde fuera necesario.

La incertidumbre surge en medio de advertencias sobre amenazas de IA autónoma, incluyendo la previsión de Anthropic de que los modelos pequeños podrían estar a pocos meses de operar como gusanos autorreplicantes en dispositivos inteligentes vulnerables.

Altos funcionarios civiles dijeron a los parlamentarios esta semana que el gobierno aún está considerando enmiendas al proyecto de ley para abordar los riesgos de la IA.

Alexandra Jones, directora general de crecimiento, asuntos internacionales, ciencia y tecnología del Departamento de Empresa, Innovación, Ciencia y Comercio, es responsable de la "política de IA y tecnologías emergentes". Sin embargo, dijo a los parlamentarios que los recientes cambios en la maquinaria gubernamental habían dejado al Departamento de Digital, Cultura, Medios y Deporte como responsable del Proyecto de Ley de Ciberseguridad y Resiliencia (Sistemas de Redes e Información).

"Estamos proponiendo... utilizar el Proyecto de Ley de Ciberseguridad para considerar cambios que mejoren la preparación ante los riesgos de IA, ciberataques y pérdida de control... [para] analizar cómo se identifican y reportan los incidentes graves y los cuasi accidentes, y cómo se contiene la interrupción impulsada por la IA en las organizaciones", afirmó.

En la audiencia del Comité de Empresa, Innovación, Ciencia y Comercio del martes, el presidente Liam Byrne interrumpió: "No se puede 'considerar' algo en un proyecto de ley. Hay que legislar algo en un proyecto de ley".

El ministro de IA, Kanishka Narayan, quien pertenece a la Oficina del Gabinete, anunció esta semana planes para "reforzar las defensas nacionales contra los crecientes riesgos de la IA".

"Utilizaremos todo el poder a nuestra disposición. Legislararemos donde sea necesario. Y no recurriremos solo a la ley. Recurriremos al ingenio británico: nuestra experiencia científica, capacidades tecnológicas e instituciones para comprender estos sistemas cada vez más potentes, defendernos de las amenazas emergentes y responder cuando las cosas salgan mal", señaló.

Al ser interrogada sobre los cambios legislativos, Jones dijo que el gobierno estaba "estudiando" la introducción de enmiendas al proyecto de ley y "desarrollando la política para analizar si utilizamos el Proyecto de Ley de Ciberseguridad para ello".

El Reino Unido tiene un enfoque descentralizado y específico por sectores para la regulación de la IA. Por ejemplo, la Oficina del Comisionado de Información ha publicado los principios que utilizará para aplicar la ley de protección de datos a la IA. La Ley de IA de la UE entró en vigor en agosto de 2024, con nuevos poderes activados por etapas. Estados Unidos no tiene legislación federal dirigida específicamente a la IA, aunque algunos estados están introduciendo nuevas leyes.

La investigación de Anthropic, publicada el lunes, exploró si los modelos de IA podrían copiarse a sí mismos entre dispositivos y ejecutarse en el hardware comprometido. Su previsión extrapola a partir de la mejora de las capacidades del modelo, en lugar de demostrar un gusano totalmente autónomo propagándose a través de dispositivos IoT reales.

La consultora Booz Allen Hamilton también advirtió que los sistemas de IA autónomos son plenamente capaces de encontrar y atacar tecnología operativa crítica y equipos industriales, y de cerrar el acceso al agua, la electricidad y otras necesidades básicas de la vida diaria.

Previamente, investigadores de riesgos de IA dijeron al comité que no se puede confiar en que los desarrolladores de modelos se regulen a sí mismos, mientras que las normas internacionales tendrían que superar profundas diferencias políticas.

Daniel Kokotajlo, director ejecutivo del AI Futures Project, dijo que su organización de investigación sin fines de lucro había propuesto un "plan menos malo".

"No permitan la automejora recursiva. Tengan mucha más transparencia y mucha más regulación en la industria, para que esta proceda con los niveles apropiados de transparencia y precaución. Creemos que es el plan menos malo actualmente en el mercado. Pero sigue teniendo problemas, y seguiría siendo bastante aterrador de implementar", afirmó.

Byrne resumió el testimonio: "Nos han dicho que la cultura de seguridad en toda la industria es catastrófica, que la cultura de seguridad en las empresas individuales está en el lugar equivocado, que la dinámica competitiva entre las empresas exacerba estos riesgos y que no podemos confiar en que estas empresas se autorregulen". 

Fuente:
TheRegister