Anthropic activa su ley de seguridad de IA solo ante el riesgo de 50 muertes o pérdidas de 1.000 millones de dólares.

Anthropic propone un proyecto de ley de seguridad de IA que permitiría al gobierno bloquear modelos solo si representan riesgos extremos, como 50 muertes o daños de 1,000 millones de dólares. La propuesta otorgaría al Departamento de Comercio la exclusividad para detener lanzamientos mediante la evaluación de terceros y supervisión judicial. Esto surge ante crecientes preocupaciones por incidentes de ciberseguridad y riesgos existenciales asociados al desarrollo de la inteligencia artificial.

Anthropic ha fusionado sus programas de seguridad en una sola oferta de tres niveles para ayudar a organizaciones a detectar vulnerabilidades mediante su modelo Mythos. Aunque la empresa afirma haber identificado miles de fallos críticos, expertos cuestionan la utilidad real de estos hallazgos y la lentitud en su reparación. El nuevo sistema segmenta el acceso según el propósito, desde la defensa básica hasta pruebas especializadas en infraestructuras críticas.

Meta y Microsoft están reduciendo el uso de la IA Claude de Anthropic entre sus empleados para impulsar sus propias herramientas de programación. Según un informe, este cambio busca optimizar el gasto interno y los flujos de trabajo, sin afectar el acceso de los clientes a Claude a través de los productos de Microsoft.

Una mujer de Florida fue arrestada y enfrenta cargos graves tras amenazar con atacar la oficina del sheriff en chats con la IA Claude de Anthropic. La empresa detectó las amenazas mediante revisión humana y notificó a las autoridades, resaltando que las interacciones con IA no son anónimas. Este caso se suma a otros incidentes similares donde empresas como OpenAI y Anthropic han reportado usuarios a la policía.