Oossa

METR称 Anthropic 可能在7月触及AI加速预警阈值

审计发现,Anthropic模型的得分提升速度加快,AI辅助研究可能是原因之一。METR称这一估算仍有不确定性。

作者: Oossa 发布日期: 2 分钟阅读

sunrise University · Unsplash

研究AI风险的非营利组织 METR 表示,Anthropic 可能在 2026 年 7 月 15 日前后达到自身设定的AI加速预警线。该组织估计,自 2025 年 10 月以来,Anthropic模型的测试得分提升速度约为此前的 1.9 倍。Anthropic 在 2026 年 8 月发布的公开风险报告中称,加速幅度“不到 2 倍”。METR 表示,未删节版本所隐含的数值为 1.97,而 Anthropic 自己也认为越过这一阈值是有可能的。

这项得分比较采用 AECI,即综合多个基准测试结果的指标。METR 称,2025 年 10 月之前,Anthropic模型的 AECI 得分每年提高约 15 分;此后则达到每年 29 分。METR 还研究了三款尚未发布的模型,它们于 2026 年 7 月至 10 月间完成训练。

加速提升可能由什么推动?

METR 估计,约 80% 的加速来自AI对 Anthropic 研究人员的协助,而非用于训练模型的算力增长加快。员工告诉审计人员,一些过去需要一两天才能搭建好的实验,如今“几乎不费力”。在 2026 年 10 月的一次非正式调查中,员工表示,最新的内部模型平均让他们的工作效率提高了约 12 倍。METR 认为,这些自我报告只能算粗略证据,可能夸大了提升幅度;一位研究人员估计,AI的贡献仅为 15% 至 20%。

这项估算并不能定论整个AI行业的情况。METR 表示,Anthropic 的加速倍数合理范围可能在 1.3 到 3 之间。若将 OpenAI、Google 和 xAI 纳入比较,行业整体的估算加速倍数为 1.4。METR 还表示,AI目前尚不能完全独立开展研究,不过已出现一些早期迹象,表明这一情况可能改变。

审计无法核实的内容

此次审查于 2026 年 8 月 12 日至 10 月 29 日进行,约有 2.5 名 METR 全职员工参与;审计团队能够查阅内部指标、员工调查以及约 15 次访谈记录。Anthropic 可以删去非公开信息,并删除了 METR 认为最有用的大量证据,包括预测和对潜在瓶颈的分析。METR 表示,因此读者不得不比审计团队希望的更多地依赖审计人员的判断。

METR 表示,它与 Anthropic 一样,目前认为急性灾难性风险较低,但无法排除未来六个月内再度出现大幅加速的可能。Anthropic 还叫停了项目中的另一项审查,该审查原本要核查公司如何在能力研究和安全研究之间分配算力。公司表示,之后可能会重新考虑这项审计。

为什么重要

对关注AI安全的人来说,METR 的调查结果表明,AI工具可能正在帮助研究人员更快改进模型,这意味着企业设定的预警阈值可能比预期更早变得切实相关。不过,影响幅度仍不确定,信息删节以及员工自我报告的调查也限制了外界能够核实的内容。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。