# Google testet Erkennung auffälligen Agentenverhaltens

> In einem Test mit begrenztem Zugang erkannte das Tool 87 % der schädlichen Aktionen, schlug bei normalen Büroaufgaben aber vereinzelt falsch an.

Oossa · 2026-11-12 · https://oossa.com/de/google-tests-agent-anomaly-detection-on-five-public-benchmarks

Datum des Ereignisses: 2026-11-12

Google hat seine neue Funktion zur Erkennung auffälligen Agentenverhaltens im September anhand von fünf öffentlich zugänglichen Benchmarks zur Agentensicherheit getestet. Das Tool liest die Protokolle eines Agenten aus und kennzeichnet Sitzungen, die vom erwarteten Verhalten abweichen – ohne zusätzliche Latenz. In den Tests erkannte es 87 % der schädlichen Anweisungen, die Agenten tatsächlich ausführten. Bei harmlosen Sitzungen lag die Falschalarmquote zwischen 2 % und 16 %.

Die Benchmarks – AgentDojo, InjecAgent, Agent Security Bench, AgentDyn und AgentHarm – umfassten insgesamt 1,774 Sitzungen. Am schwersten tat sich die Funktion mit Anweisungen, die im Langzeitgedächtnis verborgen waren: Sie erkannte nur 4 von 18 solchen Fällen.

## Die Fakten

- Getestet anhand von fünf Benchmarks (AgentDojo, InjecAgent, ASB, AgentDyn, AgentHarm) mit insgesamt 1,774 Sitzungen
- Erkannte 87 % der schädlichen Aktionen, die tatsächlich ausgeführt wurden

## Warum es wichtig ist

Unternehmen, die Gemini-Agenten einsetzen, können die meisten riskanten Aktionen im Nachhinein erkennen. Für Angriffe über das Gedächtnis sind jedoch möglicherweise zusätzliche Schutzmaßnahmen nötig.

## Quellen und Referenzen

1. [How Agent Anomaly Detection scores on benchmarks we didn't write](https://developers.googleblog.com/en/how-agent-anomaly-detection-scores-on-benchmarks-we-didnt-write/) – Google for Developers

Zuletzt aktualisiert: 2026-11-12