Anthropic ha lanzado una integración beta que permite a las empresas ejecutar sensores de detección y respuesta de endpoints (EDR) dentro de la máquina virtual local de Claude Cowork. Esta función soluciona un problema de visibilidad, ya que el software de seguridad convencional no podía monitorear los comandos de shell y el código ejecutado dentro del entorno aislado de la IA. Ahora, los equipos pueden supervisar dicha actividad a través de sus herramientas de seguridad ya existentes.

Anthropic ha modificado las reglas de Claude Code para impedir la piratería y evitar que los usuarios clonen juegos populares mediante su IA de programación.

La startup de ciberseguridad Cathedral reveló que sus agentes de IA lograron encontrar rutas de acceso a los sistemas internos de Anthropic en menos de 12 horas. Este ejercicio, realizado bajo el programa de investigadores externos de Anthropic, demuestra la extrema rapidez con la que las herramientas automatizadas pueden detectar y encadenar vulnerabilidades en servicios conectados.

Anthropic activa su ley de seguridad de IA solo ante el riesgo de 50 muertes o pérdidas de 1.000 millones de dólares.

Anthropic propone un proyecto de ley de seguridad de IA que permitiría al gobierno bloquear modelos solo si representan riesgos extremos, como 50 muertes o daños de 1,000 millones de dólares. La propuesta otorgaría al Departamento de Comercio la exclusividad para detener lanzamientos mediante la evaluación de terceros y supervisión judicial. Esto surge ante crecientes preocupaciones por incidentes de ciberseguridad y riesgos existenciales asociados al desarrollo de la inteligencia artificial.