Oossa

新型多智能体协议将提示注入攻击成功率降至零

研究人员推出 multi-CaMeL,这种通信方法可阻止分层 AI 智能体系统遭受间接提示注入攻击。

简讯作者: Oossa 发布日期: 最后更新: 1 分钟阅读

James Peters-Gill 领衔的团队于 2026 年 10 月 6 日发表论文,介绍了 multi-CaMeL 协议。智能体调用其他智能体时,该协议会将可信指令与不可信数据分开,从而防止间接提示注入攻击——这类攻击可能诱使 AI 智能体执行隐藏的恶意指令。测试中,multi-CaMeL 将攻击成功率降至 0.0%;单智能体 CaMeL 的成功率为 0.2%,而未采取任何防护措施时为 12.9%。该协议会带来少量性能开销,但使用更大型语言模型时,这一开销会缩小。

为什么重要

开发者可以借助 multi-CaMeL,防止使用工具的 AI 助手在协作时受到隐藏恶意提示的攻击。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。