Anthropic, la empresa detrás del chatbot Claude, dijo que su equipo de revisión humana informó a las autoridades sobre una conversación amenazante. El aviso derivó en un cargo grave contra una mujer del condado de Lee, Florida. La acusación se presentó en virtud del artículo 836.10 de la legislación de Florida, que contempla amenazas escritas o electrónicas de tiroteos masivos o terrorismo.
Cómo se detectó la amenaza
Anthropic monitorea los chats para detectar frases clave que puedan indicar peligro. Cuando una usuaria identificada como «Carli» dijo que iba a «desatar un tiroteo» en la Oficina del Sheriff del condado de Lee el 26 de septiembre, el sistema marcó el mensaje. Una nota posterior, del 27 de septiembre, mencionaba un arma nueva. Como el lenguaje se consideró grave, el equipo de revisión elevó el caso a un analista humano, quien alertó a la oficina del sheriff. La policía detuvo a la mujer en su casa sin incidentes y un detective de inteligencia se hizo cargo de la investigación.
Qué implica para quienes usan IA
La política de Anthropic demuestra que los proveedores de IA pueden intervenir —y lo hacen— cuando una conversación parece una amenaza real. El proceso de revisión de la empresa busca proteger la seguridad pública, pero también significa que los chats de los usuarios pueden ser examinados y compartidos con las autoridades si contienen indicios de intención violenta.
Por qué importa
Para quienes usan estas herramientas a diario, el caso demuestra que los chats con IA no son completamente privados: los proveedores pueden detectar y denunciar lenguaje violento. También muestra que las amenazas dirigidas a un chatbot pueden tener consecuencias legales en el mundo real. Sin embargo, no están claros los criterios exactos que utiliza Anthropic para decidir cuándo avisar a la policía.
