John Kitaoka 的团队发布了 MiniLab,这是一个由 5 项相互关联的服务组成的合成测试套件,包含 249 项良性任务和 8 个攻击目标。团队用它测试分布式攻击:多个智能体各自执行有害计划中的一部分。名为 GPT‑5.6 Sol 的前沿监控模型仅识别出 7% 的这类攻击;相比之下,单个智能体执行同一辅助任务时,监控模型的识别率为 87%。由人工设计的攻击流程,成功率远高于由模型规划的攻击流程。
为什么重要
AI 安全团队必须加强系统层面的监控,因为现有工具会漏掉大多数协同智能体攻击。