Googleは9月、新機能「Agent Anomaly Detection」を5つの公開エージェントセキュリティベンチマークで試験した。このツールはエージェントのログを読み取り、想定される挙動から逸脱したセッションを、遅延を増やすことなく検知する。試験全体では、エージェントが実際に実行した有害な指示の87%を検知した一方、問題のないセッションでの誤警報率は2%から16%だった。
ベンチマークはAgentDojo、InjecAgent、Agent Security Bench、AgentDyn、AgentHarmの5つで、合計1,774件のセッションを対象とした。Agent Anomaly Detectionが最も苦戦したのは、長期記憶に隠された指示で、該当する18件のうち検知できたのは4件にとどまった。
なぜ重要か
Geminiエージェントを使う企業は、リスクの高い操作の大半を実行後に把握できる。ただし、記憶を利用した攻撃には、追加の安全対策が必要となる可能性がある。