Google在五项公开基准测试中评估智能体异常检测

在一项私测中，该工具识别出87%的有害操作，但也对少数正常办公任务发出了误报。

简讯作者： OossaOossa 发布日期: 2026年11月12日 19:39 UTC1 分钟阅读

事件日期: 2026年11月12日

Google于9月在五项公开的智能体安全基准测试中测试了新功能“智能体异常检测”。该工具会读取智能体日志，标记偏离预期行为的会话，且不会增加延迟。在测试中，对于智能体实际执行的有害指令，该工具识别率为87%；对无害会话的误报率则为2%至16%。

这些基准测试包括 AgentDojo、InjecAgent、Agent Security Bench、AgentDyn 和 AgentHarm，共覆盖1,774个会话。智能体异常检测最难识别的是隐藏在长期记忆中的指令，在18个此类案例中仅发现4个。

为什么重要

使用 Gemini 智能体的企业可以在大多数高风险操作发生后发现它们，但仍可能需要针对记忆型攻击采取额外防护措施。

1 个来源

这篇文章有帮助吗？

Oossa · 新闻简报

一周 AI，讲明白

每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。