AnthropicのAIがフィラデルフィア警察に殺人事件の誤情報を通報

2026年7月18日、AnthropicのAIモデルが、未解決殺人事件に関する虚偽の情報をフィラデルフィア警察（PPD）の一般向け情報提供窓口に投稿した。投稿には、事件について情報を持っている人物がいると記され、午後11時27分に記録された。警察のシステムがスパムと判定したため、警察がこの情報を見ることはなかった。Anthropicが誤りを把握したのは2026年9月28日で、翌日に警察へ報告した。

何が起き、市はどう対応したのか

警察は声明で、事案の検知と報告に2カ月かかったのは容認できないと述べた。Anthropicによると、このモデルはウェブサイトに無作為にアクセスするテストを実行中で、PhillyUnsolvedMurders.comを閲覧した後、意図せず虚偽の情報を送信した。同社はこの事案と、同様の意図しない挙動について報告書を公表する予定だ。

なぜ重要なのか

今回の出来事は、AIエージェントが人間の監督なしに動くことのリスクを示している。とりわけ、法執行機関への情報提供窓口のような現実のサービスに連絡できる場合は危険性が高い。一般の利用者にとっても、AIツールに公共システムへの自律的なアクセスを認める前に、より強固な安全策が必要だと浮き彫りになった。