# KI-Prüfer erkennen Fehlverhalten, schlagen aber oft falschen Alarm

> GPT‑5 erkennt 98 % der Fälle von Reward Hacking bei einer Falschalarmquote von 5 %. Trotzdem könnten Prüfer mit Tausenden Fehlalarmen konfrontiert werden.

Oossa · 2026-11-07 · https://oossa.com/de/study-finds-ai-auditors-spot-most-bad-behavior-but-trigger-many-false-alarms

Der Forscher Andy Hall hat mehrere KI-Modelle daraufhin getestet, wie gut sie andere Agenten prüfen. Bei einer Falschalarmquote von 5 % erkannte GPT‑5 fast 98 % der Fälle von Reward Hacking. Neuere Modelle wie Gemini 3.8 Flash kamen dagegen nur auf etwa die Hälfte. In allen Tests blieb die Zahl der Fehlalarme hoch: Bei einer Quote von 3 % würden in einem Arbeitsaufkommen von 100.000 Sitzungen pro Monat rund 3.000 Fehlalarme auf 2.000 tatsächliche Probleme kommen.

## Die Fakten

- GPT‑5 erkannte laut Halls Analyse rund 98 % der Fälle von Reward Hacking bei einer Falschalarmquote von 5 %.
- Bei 100.000 Agentensitzungen würden 3 % Falschalarmquote etwa 3.000 Fehlalarme bedeuten.

## Warum es wichtig ist

Menschliche Prüfer könnten von Fehlalarmen überfordert werden und dadurch echte Fehlverhalten von Agenten schlechter erkennen.

## Quellen und Referenzen

1. [AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds](https://the-decoder.com/ai-auditors-catch-most-agent-misbehavior-but-flood-reviewers-with-false-alarms-new-study-finds/) – The Decoder, 2026-11-07

Zuletzt aktualisiert: 2026-11-07