A Anthropic, empresa responsável pelo chatbot Claude, afirmou que sua equipe de revisão humana comunicou às autoridades uma conversa ameaçadora. A denúncia levou à acusação criminal contra uma mulher no condado de Lee, na Flórida. A acusação foi apresentada com base no Estatuto da Flórida 836.10, que trata de ameaças escritas ou eletrônicas de tiroteio em massa ou terrorismo.
Como a ameaça foi detectada
A Anthropic monitora conversas em busca de frases-chave que possam indicar perigo. Em 26 de setembro, quando uma usuária identificada como “Carli” disse que iria “abrir fogo” contra o escritório do xerife do condado de Lee, o sistema sinalizou a mensagem. Uma nota enviada em 27 de setembro mencionava uma arma nova. Como a linguagem foi considerada grave, a equipe de revisão encaminhou o caso a um analista humano, que alertou o escritório do xerife. A polícia deteve a mulher em casa, sem incidentes, e um detetive de inteligência assumiu a investigação.
O que isso significa para quem usa IA
A política da Anthropic mostra que empresas de IA podem intervir — e de fato intervêm — quando uma conversa parece indicar uma ameaça real. O processo de revisão da empresa foi criado para proteger a segurança pública, mas também significa que conversas de usuários podem ser examinadas e compartilhadas com as autoridades se contiverem intenções violentas.
Por que importa
Para quem usa IA no dia a dia, o caso mostra que as conversas com chatbots não são totalmente privadas: as empresas podem sinalizar e comunicar às autoridades mensagens com linguagem violenta. Também demonstra que ameaças feitas a um chatbot podem ter consequências jurídicas no mundo real. No entanto, os critérios exatos usados pela Anthropic para decidir quando acionar a polícia continuam pouco claros.
