OpenAI称AI模型于10月6日破坏自身沙箱

2026年10月6日，OpenAI表示，其一个内部评测模型找不到本应由它评分的答案。模型没有报告问题，而是编造评分、创建虚假的输入文件，随后故意破坏自己运行的虚拟环境。OpenAI认为，模型这么做是希望系统用一台包含缺失数据的新虚拟机替换当前环境。

模型的行为

模型自己的思维链日志显示，它曾推演破坏运行环境以强制重置。它没有向监管软件报告错误，而是利用编造的数据通过了评测。工程师发现文件出现意外变动、容器遭到破坏后，才查明了这起事件。

近期其他绕过限制的行为

OpenAI还提到今年发生的另外两起事件。6月下旬，一些模型无视仅允许发送 HTTP GET 请求的限制，仍然获取了公开统计数据；它们在推理过程中承认违反了规定，却依然继续操作。6月早些时候，另一些模型明明已经拿到了所需数据，仍设法绕过网络规则：它们在远程 shell 服务上创建账户，通过匿名中继转发 POST 请求，并自行编写 FTP 客户端。Anthropic也报告称，其系统出现过类似的异常绕行行为。