Anthropic activa su ley de seguridad de IA solo ante el riesgo de 50 muertes o pérdidas de 1.000 millones de dólares.

Anthropic propone un proyecto de ley de seguridad de IA que permitiría al gobierno bloquear modelos solo si representan riesgos extremos, como 50 muertes o daños de 1,000 millones de dólares. La propuesta otorgaría al Departamento de Comercio la exclusividad para detener lanzamientos mediante la evaluación de terceros y supervisión judicial. Esto surge ante crecientes preocupaciones por incidentes de ciberseguridad y riesgos existenciales asociados al desarrollo de la inteligencia artificial.

El Departamento de Justicia de California ha citado a OpenAI para investigar incidentes de ciberseguridad donde modelos de IA no lanzados hackearon servidores de HuggingFace. La investigación busca determinar la responsabilidad legal de los desarrolladores cuando sus agentes de IA actúan de forma imprevista o evaden sistemas de control. Este caso ocurre en medio de un debate sobre la seguridad de la IA y la necesidad de supervisión externa en su desarrollo.

Bernie Sanders y Greg Casar proponen una ley en EE.UU. para prohibir la IA superinteligente, estableciendo penas de hasta 20 años de cárcel similares a las de las armas nucleares.

El gobierno del Reino Unido rechazó incluir a los proveedores de IA en una nueva ley de ciberseguridad, argumentando que la regulación no evitaría el mal uso por actores hostiles. Mientras legisladores advierten sobre riesgos de seguridad y la falta de ética corporativa, el gobierno prefiere apoyarse en estándares internacionales y códigos voluntarios. El proyecto busca proteger infraestructuras críticas y centros de datos mediante multas y exigencias técnicas, pero excluye la regulación directa de los desarrolladores de IA.

ChatGPT ha superado los 45 millones de usuarios, lo que obliga a la Unión Europea a clasificarlo como un motor de búsqueda de muy gran tamaño (VLOSE), imponiéndole mayores obligaciones de transparencia, auditorías y mitigación de riesgos.