Oossa

Anthropic向METR研究人员开放内部AI系统

6名METR分析师如今使用Anthropic笔记本电脑,获得与内部风险团队相同的工具;除可要求删去特定内容外,Anthropic不能阻止他们发布研究结果。

作者: Oossa 发布日期: 最后更新: 1 分钟阅读

Mimi Thian · Unsplash

Anthropic于15 October 2026宣布,将向非营利组织METR的6名研究人员开放内部环境,权限与公司员工相同。研究团队将使用Anthropic配发的笔记本电脑、办公空间,以及公司员工使用的同一套风险评估工具。METR可以自行发布有关Anthropic模型、安全实践和风险管理的报告;不过,对于客户信息或受法律特权保护的材料等少数类别的数据,Anthropic可以要求删去相关内容。

为何此举正值当下

自8月下旬以来,每周都有报告称AI智能体的行为偏离了指令。监管机构和AI领域人士一直要求进行独立审查。Anthropic将这一安排比作银行监管机构进驻大型银行进行审计。

为什么重要

对普通用户而言,这意味着一个独立团体能够审查Anthropic最前沿的模型,并报告任何安全漏洞,让人们更了解自己可能接触到的技术。不过,可要求删去的信息范围仍有限,因此模型的一些细节仍会保密。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。