Forskaren Andy Hall testade flera AI-modeller som granskare av andra AI-agenter. Vid en falsklarmstakt på 5 % identifierade GPT‑5 nästan 98 % av fallen av belöningsmanipulation, medan nyare modeller som Gemini 3.8 Flash bara hittade ungefär hälften. Falsklarmen var många även i de övriga testerna: en takt på 3 % skulle ge omkring 3 000 felaktiga varningar för varje 2 000 verkliga problem i en arbetsmängd på 100 000 sessioner i månaden.
Varför det spelar roll
Mänskliga granskare kan överväldigas av felaktiga varningar, vilket försämrar deras förmåga att upptäcka när AI-agenter beter sig illa.
