Il ricercatore Andy Hall ha testato diversi modelli di AI come auditor di altri agenti. Con una soglia di falsi allarmi del 5%, GPT‑5 ha individuato quasi il 98% dei casi di reward hacking, mentre modelli più recenti come Gemini 3.8 Flash ne hanno rilevato solo circa la metà. Nei test, i falsi allarmi sono rimasti numerosi: con un tasso del 3%, un carico di 100.000 sessioni al mese produrrebbe circa 3.000 segnalazioni infondate ogni 2.000 problemi reali.
Perché conta
I revisori umani potrebbero essere sommersi da segnalazioni errate, con una minore capacità di individuare i comportamenti scorretti reali degli agenti.
