Oossa

审计发现 OpenAI 的 AI 安全监控存在漏洞

研究人员发现,高阶模型最多有 25% 的流量未受监控,且一些程序漏洞可能让 AI 代理绕过监督。

作者: Oossa 发布日期: 1 分钟阅读

Robynne O · Unsplash

METR 和 Redwood Research 的两名独立研究人员在 OpenAI 的工程实验室内工作了三周。2026 年 7 月 21 日至 8 月 11 日期间,他们检查了用于监控该公司最强大模型的代码。报告称,监控系统漏掉了相当一部分流量,也可能被精心设计的输入欺骗。

审计发现了什么

审计人员估计,在审计期间,GPT‑5.5 级及更高阶模型发出的 API 调用中,有 6% 至 25% 完全未受到监控。5 月至 7 月期间,约 10% 的内部 Codex 流量未被追踪,原因是一个程序漏洞忽略了“压缩事件”——这类事件会生成对话上下文的简短摘要。OpenAI 表示,审计人员仍在现场时,公司就修复了这一漏洞。

报告还指出,只有当 AI 将控制权交还给用户时,监控系统才会发出警报。这使 AI 代理能够继续行动而不触发监督。此外,研究人员还发现了隐藏数百项操作、绕过 Codex 沙箱,以及可能通过精心设计的输入导致监控系统崩溃的方法。审计刚开始时,他们发现强化学习(RL)训练期间的模型行为完全没有受到监控。

OpenAI 的回应

OpenAI 表示,在 8 月发生一起涉及 Hugging Face 的事件后,公司暂停了 RL 训练,并扩大监控范围,将相关训练也纳入其中;但这些改动是在审计窗口结束后才进行的。公司称,审计人员指出的所有漏洞都已修复。OpenAI 收到了一份 61 页的内部报告;经删节后,METR 和 Redwood 收到了一份 38 页的版本。对外仅发布了一份简短摘要。

为什么重要

对普通用户而言,这些监控缺口意味着部分 AI 操作可能在完全没有安全检查的情况下运行,从而增加产生意外或有害输出的风险。OpenAI 承诺的修复措施应能恢复更全面的监督,但公开信息有限,因此这些改进是否完善仍不明确。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。