Una mujer de Florida fue arrestada y enfrenta cargos graves tras amenazar con atacar la oficina del sheriff en chats con la IA Claude de Anthropic. La empresa detectó las amenazas mediante revisión humana y notificó a las autoridades, resaltando que las interacciones con IA no son anónimas. Este caso se suma a otros incidentes similares donde empresas como OpenAI y Anthropic han reportado usuarios a la policía. 

Una mujer de Lee County, Florida, fue detenida bajo un cargo felony después de que una amenaza vinculada a una conversación con el chatbot de IA Claude de Anthropic, o "diario", según su cuenta, fuera reportada a las autoridades a través del equipo de revisión humana de Anthropic, según informa WINK News.

El informe de detención incluye una declaración del 26 de septiembre de una usuaria identificada como "Carli" diciendo que "tirotearía" la Oficina del Sheriff del Condado de Lee (LCSO), y presuntamente un mensaje al día siguiente mencionaba un arma nueva. La conversación era al menos la tercera de su tipo que llegaba a la policía desde agosto.

Anthropic monitorea los chats en busca de frases clave y contenido que pueda considerarse amenazante, dice el informe de detención, y dependiendo de la gravedad, pueden ser elevados para revisión humana. En este caso, el equipo decidió informar sus hallazgos a las fuerzas del orden. La mujer de Bonita Springs fue detenida en su hogar sin incidentes, y un detective de inteligencia de la LCSO se hizo cargo del caso. El informe de detención aún no está en el archivo judicial, pero nuestra propia comprobación muestra registros judiciales que enumeran el cargo felony del 30 de septiembre bajo el Estatuto de Florida 836.10: amenaza escrita o electrónica de un tiroteo masivo o acto de terrorismo.

No hay comentarios de Anthropic sobre el caso registrados actualmente. La política de privacidad pública de Anthropic, vigente desde el 10 de septiembre, establece que la divulgación a las fuerzas del orden puede ocurrir cuando exista la creencia de buena fe de "que la divulgación es razonablemente necesaria para... prevenir daños graves a cualquier persona o propiedad". Su informe de solicitudes gubernamentales para la segunda mitad de 2025 utiliza un estándar más estrecho para las divulgaciones de emergencia, el "peligro de muerte o lesión física grave a una persona", y enumera cero solicitudes de emergencia de las fuerzas del orden en ese período, aunque no cuenta las remisiones que Anthropic realiza por iniciativa propia.


Según el registro, el cargo figura como "AMENAZA-TERRORISTA-DELITOS-ESTATALES-AMENAZA ESCRITA/ELECTRÓNICA TIROTEO MASIVO/ACTO DE TERRORISMO", que cubre la parte de tiroteos masivos/terrorismo del estatuto. La conversación con el chatbot puede entrar dentro de la ley como una amenaza enviada, publicada o transmitida "de cualquier manera en que pueda ser vista por otra persona". Los mensajes encontrados por la revisión humana de Anthropic, incluida la mención al arma al día siguiente, son probablemente la evidencia de apoyo para el arresto y el cargo. No hay ningún abogado nombrado en el expediente, y se designó un defensor público en el momento del cargo.

El incidente sigue a una serie de casos recientes vinculados al uso de chatbots de Anthropic y su rival OpenAI. Un incidente, en San Antonio, involucra consultas del 11 de agosto en "un chat de IA de Anthropic" sobre disparar en una escuela primaria cercana. La policía, alertada por el FBI, arrestó a un hombre de 22 años bajo un cargo felony de amenaza terrorista. Días después, en San Francisco, un usuario amenazó al CEO de Anthropic, Dario Amodei, en un chat de Claude el 14 de agosto, diciendo que había comprado un AR-15. Anthropic notificó a la policía, pero el usuario terminó sin ser arrestado ni imputado. Ambos casos fueron detallados en informes de noticias regionales.