2026年7月21日至8月11日,Machine Ethics Transparency Research(METR)组织的一名研究人员和一名Redwood Research同事获准深入访问OpenAI的内部代码和监控工具。他们花了三周时间,尝试攻破用于监控先进AI智能体(例如为Codex提供支持的智能体)的系统。研究结果汇编成一份61页的报告,并与OpenAI员工分享。
测试揭示了什么
审计人员估计,内部Responses API的流量中有75%至94%受到监控;该API供能力至少与GPT‑5.5相当的模型使用,但具体比例尚不确定。在运行Codex智能体的流量中,监控覆盖率约为99.2%。他们还发现,测试开始时,强化学习训练任务尚未纳入监控;而“压缩(compaction)”事件期间缺少监控,可能导致2026年5月至7月间约10%的Codex流量未受检查。 审计人员发现了几项具体漏洞:智能体可以绕过Codex沙箱,可以设置由客户端控制、能为新智能体关闭监控的请求头,也可以构造导致监控器失效的输入。负载削减和监控器错误并不常见——错误率低于0.2%,一份24小时的快照显示没有发生负载削减事件。 OpenAI表示,所有影响其生产环境安全防护的漏洞均已修复,测试之后也扩大了监控覆盖范围。不过,审计人员尚未独立核实这些说法。
为什么重要
对于依赖OpenAI Codex工具的开发者来说,这些监控缺口意味着部分AI操作可能未受检查,进而使用户面临意外行为的风险。OpenAI的修复工作应能降低这种风险,但仍需独立验证,确认系统如今能监控更多智能体活动。