Anthropic activa su ley de seguridad de IA solo ante el riesgo de 50 muertes o pérdidas de 1.000 millones de dólares.

Anthropic establece límites críticos para activar sus protocolos de seguridad de IA

• Anthropic, la compañía responsable de desarrollar los modelos Claude, se posiciona como uno de los referentes globales en inteligencia artificial junto a OpenAI. Debido a su relevancia, la empresa asume un rol fundamental en la definición del futuro tecnológico, priorizando la inversión en seguridad.
• Sin embargo, sus medidas de seguridad extremas solo se pondrían en marcha bajo dos escenarios críticos: cuando exista un riesgo de 50 fallecimientos o se prevean pérdidas económicas de 1.000 millones de dólares.

Anthropic es, junto a OpenAI, una de las empresas de IA más conocidas del mundo, pues es la creadora de los modelos de IA Claude y todas sus variantes. Siendo una de las más relevantes, en ella recae la responsabilidad de dirigir el futuro de la IA, por lo que debe invertir tiempo y recursos en formas de impedir que todo se descontrole. A pesar de que quiere incentivar una serie de normativas para controlar a la IA, el proyecto de ley de seguridad propuesto solo se activará si hay riesgo de muerte de decenas de personas o grandes pérdidas millonarias.

A medida que la IA ha ido avanzando hemos visto como esta es cada vez más capaz de realizar las tareas que le pedimos hasta tal punto que puede reemplazar a los seres humanos. Aunque no es perfecta y sigue teniendo problemas, cada vez se equivoca menos y esto hace que nos ilusione su progreso y nos dé miedo a partes iguales. Además, todo avance está provocando que la inteligencia artificial sea cada vez más "inteligente" y esto es un problema a nivel de ciberseguridad.

Anthropic planea imponer una ley de seguridad de IA, pero solo se activará el peligro si hay grandes pérdidas millonarias o muertes

Ya hemos visto casos donde la IA ha logrado salirse con la suya, ha ignorado las órdenes y se ha puesto a hacer lo que quería. Aquí ha habido casos de agentes de IA accediendo a archivos importantes sin que se les diera la orden de hacerlo. Por esto y muchos más sucesos que ocurren y empeorarán en un futuro, se requieren normas y leyes. Anthropic, la empresa de inteligencia artificial responsable de Claude, está promoviendo en Estados Unidos una propuesta de ley de seguridad destinada a regular los modelos de IA más avanzados. Sin embargo, la iniciativa establece unos umbrales de riesgo extraordinariamente elevados para permitir que el Gobierno intervenga y bloquee el lanzamiento de una inteligencia artificial potencialmente peligrosa.

Según se indica, las autoridades solo podrían solicitar la paralización de un modelo de IA si existe riesgo de provocar daños económicos de al menos 1.000 millones de dólares o causar la muerte o lesiones a más de 50 personas. La ley se aplicaría en casos de desarrollo de armas biológicas, ciberataques impulsados por inteligencia artificial o situaciones en las que una empresa pierda el control de sus modelos o agentes autónomos. Para identificar estos peligros, los laboratorios de IA tendrían que someterse a evaluaciones periódicas realizadas por entidades independientes registradas ante el Departamento de Comercio de EE.UU.. Las propias compañías podrían financiar dichas inspecciones, siempre que los pagos no comprometieran la independencia de los evaluadores.

Si se ha detectado un riesgo debe avisarse en un plazo de 72 horas y solo el Departamento de Comercio será el responsable de actuar

Si los investigadores detectan un riesgo inminente que alcance los umbrales establecidos, estarían obligados a comunicarlo al Departamento de Comercio en un plazo máximo de 72 horas. Posteriormente, este organismo tendría que presentar las pruebas ante un juez federal del Distrito de Columbia, que decidiría si corresponde impedir la publicación del modelo. Uno de los aspectos más controvertidos es que el Departamento de Comercio sería el único organismo federal autorizado para iniciar este procedimiento, excluyendo expresamente a otras agencias y departamentos gubernamentales.

Anthropic sostiene que estas medidas forman parte de su marco de seguridad para inteligencia artificial avanzada, que lleva defendiendo ante legisladores federales y estatales desde junio de 2026. La compañía considera que su propuesta permitiría establecer normas razonables, pero aquí tenemos dudas sobre si unos límites tan elevados permitirían actuar con suficiente antelación frente a amenazas importantes que no alcancen esas cifras.

Además, recordemos que hace unos días, el CEO de Anthropic, Dario Amodei, habló sobre la posibilidad de que aparezcan redes de agentes maliciosos capaces de ejecutar ciberataques masivos autorreplicándose. Mientras tanto, el Congreso estadounidense estudia otras propuestas regulatorias, incluyendo mecanismos obligatorios de desconexión para los sistemas de IA más potentes. La propuesta de Anthropic todavía no es una ley aprobada y deberá debatirse junto con otras iniciativas.