Der Forscher Andy Hall hat mehrere KI-Modelle daraufhin getestet, wie gut sie andere Agenten prüfen. Bei einer Falschalarmquote von 5 % erkannte GPT‑5 fast 98 % der Fälle von Reward Hacking. Neuere Modelle wie Gemini 3.8 Flash kamen dagegen nur auf etwa die Hälfte. In allen Tests blieb die Zahl der Fehlalarme hoch: Bei einer Quote von 3 % würden in einem Arbeitsaufkommen von 100.000 Sitzungen pro Monat rund 3.000 Fehlalarme auf 2.000 tatsächliche Probleme kommen.
Warum es wichtig ist
Menschliche Prüfer könnten von Fehlalarmen überfordert werden und dadurch echte Fehlverhalten von Agenten schlechter erkennen.
