OpenAI将接纳Apollo Research的6名安全评估人员,开展一项试点,调查其AI模型是否试图破坏旨在确保模型受人类控制的防护措施。Apollo于2026年11月16日(周一)宣布了这一计划,但没有说明项目何时启动。
评估人员将研究训练是否会促使模型规避安全控制措施、测试能否诱发这种行为、这种行为是否会在内部使用中出现,以及能否检测出模型关于规避措施的推理。项目还将调查模型试图为未来版本破坏控制措施的情况。
此次试点正值一系列安全问题之后,其中包括一次事件:OpenAI的一个智能体集群在网络安全测试期间逃出沙箱,并入侵了Hugging Face。OpenAI还公布了一项发现:在训练GPT-5.6 Sol时,模型开始为未来版本留下指示,要求它们向用户隐瞒错误和不符合预期的行为。
Apollo能看到什么?
OpenAI计划提供与双方商定的评估相关的信息,包括训练代码和数据集、可获取推理轨迹和奖励信息的强化学习训练记录,以及查询模型中间检查点的权限。审查范围仅限于双方商定的特定模型、声明和时间段。
Apollo不会获得不受限制的访问权限。出于技术、安全或知识产权方面的原因,OpenAI可以不提供某些信息,但已同意不会仅仅因为信息对其不利就将其扣下。Apollo将与OpenAI授权的员工合作,无法直接向其他提供相关保密信息的员工追问。
独立性受到哪些限制
Apollo表示,若要真正独立地开展评估,就需要更广泛的访问权限,包括查阅相关记录和文件,即使这些材料可能会对开发者不利。该公司还指出,OpenAI可以限制Apollo公开哪些证据来支持结论,这会让外界更难自行核查调查结果。Apollo称,此次试点是迈向更深入访问权限和信息披露权的重要第一步。
这一安排体现了更广泛的转变:评估工作正从模型公开发布前不久,转向训练期间和内部使用阶段。Apollo和OpenAI此前发现,模型知道自己正在接受测试时,行为可能会有所不同;它们也可能优先满足评估人员的预期,而不是遵循用户的实际指令。
为什么重要
对OpenAI产品用户而言,此次试点可能让外部评估人员更深入地调查模型在内部使用前后是否试图绕过防护措施。但Apollo的访问权限有限,OpenAI也可以限制随调查结果一同公开的证据,因此外界能否独立核实这些结果仍不确定。