Oossa

论文警示:技能集变化或让自我改进型智能体失灵

研究人员推出 CODA 测试,发现智能体与技能库共同进化后,一旦部署后的技能库发生漂移,先前取得的大部分性能提升就会消失。

简讯作者: Oossa 发布日期: 1 分钟阅读

Jinluan Yang 领衔的团队于 2026 年 10 月 16 日在 arXiv 发布了一篇新论文。论文显示,同时训练策略和技能库以实现改进的智能体,如果技能库之后发生变化,就会变得脆弱。作者提出了一种名为 CO‑evolution Drift Audit(CODA)的新评估方法,通过模拟技能漂移来衡量智能体表现的一致性和抵抗能力。在四种方法和五个基准测试中,CODA 发现,最差情况下的成功率会下降 5-13 个百分点,抹去这些智能体相较于无技能基线的大部分优势。

为什么重要

部署者需要测试 AI 智能体抵御技能变化的能力,而不能只看其峰值表现。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。