AI 감사 모델, 문제 행동 대부분 잡지만 오탐도 많아

GPT‑5는 보상 조작 사례의 98%를 찾아냈지만 오탐률은 5%였다. 검토자에게 수천 건의 잘못된 경고가 쏟아질 수 있다.

짧은 소식작성: OossaOossa 게시일: 2026년 11월 7일 오후 5:10 UTC1 분 읽기

연구자 Andy Hall은 다른 에이전트의 행동을 감사하는 역할을 여러 AI 모델에 맡겨 시험했다. 오탐률을 5%로 설정했을 때 GPT‑5는 보상 조작 사례를 거의 98% 찾아냈지만, Gemini 3.8 Flash 같은 최신 모델은 절반가량만 찾아냈다. 시험 전반에서 오탐은 여전히 많았다. 월 10만 건의 세션을 처리할 때 오탐률이 3%라면 실제 문제 2,000건마다 잘못된 경고가 약 3,000건 발생할 수 있다.