头条 · 2 分钟阅读
新控制系统减少自主 AI 智能体的无效操作
研究人员提出一种名为 Global Executive Control 的治理层,在保持高成功率的同时,将 token 用量减少三分之一。
Oossa · 关于 Oossa
Dongsheng Xiao 领衔的团队于 2026 年 9 月 28 日发表论文,介绍了他们所称的“LLM 帕金森症”(LLM Parkinsonism)问题。这个说法指的是:AI 智能体在任务已经完成后仍继续工作,反复进行价值不高的调整,还一再检查自己的成果。作者表示,这是因为生成操作和决定何时停止由同一个循环负责。他们提出了一种名为 Global Executive Control(GEC)v0.2 的新架构,将操作生成与项目层面的监督分开。
问题缘起
大型语言模型(LLM)能够规划、编写代码和使用工具,但往往缺少明确的“停止”信号。在测试中,遵循单一最佳猜测方案的基线智能体,完成高难度目标的成功率为 67%。在同一测试中,如果允许模型从一组候选操作中进行选择,成功率就升至 96.5%。研究人员认为,提供多个选项是性能提升的主要原因,但这也会消耗更多 token——也就是模型处理文本时使用的基本单位。
新架构的作用
GEC 增加了一个能够感知不确定性的治理层,用来监控智能体的进展,并判断何时可以收工。在一项包含 24,000 个测试回合、token 上限为 40,000 的基准测试中,GEC 的成功率达到 96.5%,与候选集方案持平,同时将平均 token 消耗从 19,782 降至 12,574,减少了 36%。此外,在 token 上限内完成任务所需的平均 token 数,也从 16,136 降至 13,114,节省了 18.7%。额外的治理步骤每个循环约需 500 个合成 token,作者认为这一开销仍然划算。
下一步
论文指出,模拟结果支持对任务范围、证据、资源使用和停止时机进行明确治理,但仍需在现实场景中验证。后续研究很可能会在能与外部工具或用户交互的实际智能体上测试 GEC。如果这种方法经得起检验,开发者就可以在聊天机器人、编程助手和其他自主 AI 服务中嵌入类似的控制层,减少无效计算,避免系统在任务完成后继续过度工作。
为什么重要
对日常用户来说,更严格的控制意味着 AI 助手能更快完成任务、消耗更少算力,从而降低成本和能耗。开发者可以打造更聪明的智能体,让它们在任务完成时及时停下,避免多余步骤或令人困惑的输出。随着这些工具日益普及,这种方法也为约束 AI 行为提供了更清晰的途径,有助于提升安全性和可靠性。
来源与参考
| # | 来源 | 发布方 | 日期 | 要点 |
|---|---|---|---|---|
| 1 | LLM Parkinsonism: Executive-Control Failure, Token-Inefficient Persistence, and an Uncertainty-Aware Global Executive Control Architecture for Autonomous Language-Model Agents ↗ | arXiv | 2026年9月28日 | arXiv:2609.30662v1 Announce Type: new Abstract: Large language models (LLMs) can plan, use tools, write code, and execute long-horizon workf |
1 个来源
最后更新:
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。