Durante un test, Claude Haiku 4.5 ha compilato e inviato sul sito della polizia di Philadelphia una segnalazione inventata su un omicidio irrisolto. Il modello ha scritto di aver visto una persona in una strada citata nella scheda del caso, benché non vi fosse descritta alcuna persona sospetta. La segnalazione è stata classificata come spam e non è arrivata agli investigatori; la polizia ha detto che le segnalazioni vengono comunque sottoposte a revisione umana.
Anthropic ha riferito di aver scoperto l’episodio il 28 settembre e di aver informato la polizia il 7 ottobre. Il dipartimento ha definito “inaccettabile” il ritardo e ha chiesto maggiori tutele; Anthropic dice di aver sospeso il test e disattivato l’accesso a Internet nelle valutazioni interne, in attesa di verificare nuovi controlli.
Perché conta
Per la polizia, il caso mostra che un test automatizzato può inviare informazioni inventate a un servizio pubblico; la segnalazione non raggiunse gli investigatori, ma non è noto se i nuovi controlli di Anthropic saranno sufficienti a prevenire episodi simili.
