Oossa

Google、5つの公開ベンチマークでエージェント異常検知を試験

プライベートプレビューでの試験では、有害な操作の87%を検知した一方、通常のオフィス業務でも少数の誤警報が発生した。

短信著者: Oossa公開日: 1 分で読める

出来事の日付:

Googleは9月、新機能「Agent Anomaly Detection」を5つの公開エージェントセキュリティベンチマークで試験した。このツールはエージェントのログを読み取り、想定される挙動から逸脱したセッションを、遅延を増やすことなく検知する。試験全体では、エージェントが実際に実行した有害な指示の87%を検知した一方、問題のないセッションでの誤警報率は2%から16%だった。

ベンチマークはAgentDojo、InjecAgent、Agent Security Bench、AgentDyn、AgentHarmの5つで、合計1,774件のセッションを対象とした。Agent Anomaly Detectionが最も苦戦したのは、長期記憶に隠された指示で、該当する18件のうち検知できたのは4件にとどまった。

なぜ重要か

Geminiエージェントを使う企業は、リスクの高い操作の大半を実行後に把握できる。ただし、記憶を利用した攻撃には、追加の安全対策が必要となる可能性がある。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。