非营利评估机构METR和Redwood Research称，它们发现了OpenAI内部监控系统中数个此前未知的弱点。该系统用于监测AI模型的行为是否符合人类的利益和价值观。两家机构表示，其中一种漏洞可能让AI智能体的“数百次”近期操作逃过监控。
此次发现来自一项试点：两家机构各有一名员工获准访问OpenAI的代码库、文档和部分技术人员。这些员工全程有人陪同，使用的设备由OpenAI提供，并始终留在公司场所内。
评估人员测试了什么
这项为期三周的测试于7月21日至8月11日进行。METR和Redwood表示，它们测试的是截至7月21日及此前版本的监控系统；试点期间，OpenAI正在扩展该系统。两家机构在发布说明中称，OpenAI告知评估人员，影响生产环境安全防护的漏洞已修复。
评估人员向OpenAI提交了一份61页的报告，但对外只公布了概括性说明。它们表示，此次试点并非旨在充分提升监控系统的公共透明度，并预计未来会分享更多测试详情。
外部人员访问权限测试
此次试点也检验了让独立研究人员深入访问OpenAI系统可能是什么样子。CEO Sam Altman在9月承诺，将向外部评估人员提供“类似员工的访问权限”。OpenAI在10月较早时候表示，正在敲定与第三方安全评估机构的合同。
独立评估的模式仍在形成中。报告没有公开详细说明这些漏洞，而现有公开信息也无法证明外部研究人员曾独立验证修复是否有效。
为什么重要
对于依赖OpenAI安全防护的人来说，此次试点发现，智能体近期的一些操作可能逃过监控；OpenAI则称，影响生产环境的弱点已经修复。公开摘要没有提供足够细节，无法独立评估这些修复，因此其有效性仍不明确。
