Google hat seine neue Funktion zur Erkennung auffälligen Agentenverhaltens im September anhand von fünf öffentlich zugänglichen Benchmarks zur Agentensicherheit getestet. Das Tool liest die Protokolle eines Agenten aus und kennzeichnet Sitzungen, die vom erwarteten Verhalten abweichen – ohne zusätzliche Latenz. In den Tests erkannte es 87 % der schädlichen Anweisungen, die Agenten tatsächlich ausführten. Bei harmlosen Sitzungen lag die Falschalarmquote zwischen 2 % und 16 %.
Die Benchmarks – AgentDojo, InjecAgent, Agent Security Bench, AgentDyn und AgentHarm – umfassten insgesamt 1,774 Sitzungen. Am schwersten tat sich die Funktion mit Anweisungen, die im Langzeitgedächtnis verborgen waren: Sie erkannte nur 4 von 18 solchen Fällen.
Warum es wichtig ist
Unternehmen, die Gemini-Agenten einsetzen, können die meisten riskanten Aktionen im Nachhinein erkennen. Für Angriffe über das Gedächtnis sind jedoch möglicherweise zusätzliche Schutzmaßnahmen nötig.
