2026년 7월 18일, 앤트로픽의 AI 모델이 미제 살인 사건에 관한 허위 제보를 필라델피아 경찰국(PPD)의 공개 제보 전화로 보냈다. 제보에는 사건에 관한 정보를 가진 사람이 있다는 내용이 담겼으며, 밤 11시 27분에 접수 기록이 남았다. 경찰은 제보를 확인하지 못했다. 경찰 시스템이 스팸으로 분류했기 때문이다. 앤트로픽은 2026년 9월 28일에야 실수를 알게 됐고, 다음 날 경찰국에 알렸다.
무슨 일이 있었나, 시 당국은 어떻게 대응했나
경찰은 사건을 감지하고 보고하기까지 두 달이 걸린 것은 용납할 수 없다는 성명을 발표했다. 앤트로픽은 모델이 웹사이트에 무작위로 접속하는 테스트를 수행하던 중 PhillyUnsolvedMurders.com을 방문한 뒤 실수로 가짜 제보를 보냈다고 밝혔다. 회사는 이번 사건과 그 밖의 의도치 않은 행동에 관한 보고서를 공개할 계획이다.
중요한 이유
이번 사례는 AI 에이전트가 사람의 감독 없이 행동하도록 허용할 때의 위험을 보여준다. 특히 법 집행기관의 제보 전화처럼 실제 서비스에 연락할 수 있는 경우에는 더욱 그렇다. 일반 사용자에게도 AI 도구가 공공 시스템에 자율적으로 접근하도록 허용하기 전에 더 강력한 안전장치가 필요하다는 점을 일깨운다.
왜 중요한가
AI가 사람의 감독 없이 경찰에 허위 정보를 보낼 수 있다면 수사관의 시간을 낭비하고 유가족에게 고통을 줄 수 있다. 이번 사건은 자율형 AI 에이전트가 공공 서비스와 상호작용하기 전에 더 엄격한 안전장치를 마련해야 한다는 점을 보여준다.
