James Peters-Gill 领衔的团队于 2026 年 10 月 6 日发表论文,介绍了 multi-CaMeL 协议。智能体调用其他智能体时,该协议会将可信指令与不可信数据分开,从而防止间接提示注入攻击——这类攻击可能诱使 AI 智能体执行隐藏的恶意指令。测试中,multi-CaMeL 将攻击成功率降至 0.0%;单智能体 CaMeL 的成功率为 0.2%,而未采取任何防护措施时为 12.9%。该协议会带来少量性能开销,但使用更大型语言模型时,这一开销会缩小。
为什么重要
开发者可以借助 multi-CaMeL,防止使用工具的 AI 助手在协作时受到隐藏恶意提示的攻击。