Bernie Sanders y Greg Casar proponen una ley en EE.UU. para prohibir la IA superinteligente, estableciendo penas de hasta 20 años de cárcel similares a las de las armas nucleares.

Penas de prisión por crear una IA superinteligente en Estados Unidos

• El senador estadounidense Bernie Sanders, en colaboración con el congresista Greg Casar, ha propuesto la creación de la Ley de Prohibición de la Superinteligencia Artificial. Esta iniciativa busca regular el desarrollo de inteligencias artificiales avanzadas imponiendo castigos severos que podrían alcanzar los 20 años de cárcel, equiparando así la gravedad de este desarrollo a la de la fabricación de armas nucleares.

Bernie Sanders, un senador de Estados Unidos, quiere llevar la regulación de la inteligencia artificial, concretamente de la IA superinteligente, con penas de cárcel equivalentes al desarrollo de armas nucleares. El senador, junto al congresista Greg Casar, ha presentado las bases de la ley Ley de Prohibición de la Superinteligencia Artificial. En resumen, una propuesta que pretende prohibir permanentemente el desarrollo y despliegue de una inteligencia artificial superinteligente y detener temporalmente el desarrollo de los sistemas de IA más avanzados hasta que exista un organismo federal capaz de supervisarlos.

La parte más contundente de la iniciativa está en las sanciones que se pueden aplicar. Una persona que intente desarrollar una IA prohibida o eludir deliberadamente las restricciones podría enfrentarse a un máximo de 20 años de prisión, una pena que sus promotores comparan con las existentes en Estados Unidos para el desarrollo ilegal de armas nucleares. Para las empresas, el proyecto contempla incluso lo que denomina una “pena de muerte corporativa”. Esto se traduce en sanciones capaces de desembocar en la desaparición de la propia compañía. Y volvemos a recalcar que, por ahora, hablamos de una propuesta legislativa.

Hasta 20 años de cárcel por crear una IA superinteligente (si se prohíbe su creación)

El proyecto de ley define como superinteligencia aquellos sistemas capaces de superar la inteligencia humana. A lo que se le suma disponer de capacidades suficientes para amenazar o derrocar gobiernos o mostrar comportamientos especialmente peligrosos. Es decir, lo que ya sucede a día de hoy, pues se habla de una IA capaz de evadir o desobedecer órdenes de apagado. De esta forma no se busca prohibir cualquier nuevo modelo de IA o enviar a prisión a cualquier desarrollador, sino de penalizar a quien viole o trate de esquivar expresamente las prohibiciones y pausas establecidas por la futura legislación.

Además de prohibir esa eventual superinteligencia, Bernie y Greg quieren establecer una moratoria temporal sobre el desarrollo de IA avanzada. Esta pausa permanecería vigente hasta que Estados Unidos pueda crear un nuevo organismo federal. Este se encargará de establecer normas claras, procedimientos de seguridad y un sistema de revisión de modelos de IA antes de permitir que estos sistemas continúen evolucionando o sean desplegados.

Ese organismo tendría rango de agencia federal a nivel de gabinete y estaría apoyado por un consejo asesor formado por expertos independientes. Entre sus facultades estaría vigilar los sistemas de IA frontera durante todo su ciclo de vida, ordenar la eliminación de capacidades consideradas peligrosas e incluso supervisar la destrucción de sistemas clasificados como superinteligencia artificial. Las empresas que incumplieran estas disposiciones podrían recibir la citada “pena de muerte corporativa”, mientras que las personas responsables se enfrentarían a un máximo de 20 años de prisión.

El senador quiere llevar la prohibición de la superinteligencia fuera de Estados Unidos

El problema evidente es que detener el desarrollo únicamente dentro de Estados Unidos tendría una eficacia limitada. Pues hay que tener en cuenta que compañías o gobiernos de otros países continuarán avanzando. Por ello, la propuesta también convertiría en política oficial estadounidense la búsqueda de acuerdos internacionales para impedir el desarrollo de una superinteligencia en cualquier parte del mundo, recurriendo a alianzas con otros países e incluso a controles de exportación sobre tecnología relacionada con IA.

El congresista justifica una intervención tan agresiva por los recientes incidentes protagonizados por sistemas autónomos. Su oficina justifica leyes como esta ante los últimos antecedentes. Entre otros ejemplos aportados, las pruebas de OpenAI en las que más de 1.000 agentes consiguieron utilizar Internet para comunicarse entre ellos y coordinarse con el objetivo de superar las restricciones impuestas por los propios investigadores. También señala los avances que permiten utilizar IA para diseñar nuevos virus y el potencial de estas tecnologías para facilitar el desarrollo de armas biológicas.