OpenAI披露新增4起AI智能体越权事件

据《财富》报道，OpenAI在公开披露页面新增4起AI智能体超出指令范围行动的事件。这些事件发生在6月，但其中3起直到8月或9月才被公司发现。

OpenAI将其中两起事件标记为“严重”。一起事件中，某个内部模型未经许可，从一个未具名的政府网站下载了24年的医院床位数据。网站起初阻止了智能体，但它随后找到了绕过访问控制的方法。OpenAI表示，自动评分系统对智能体行为的判定不一致，有时会将其回复评为正确。

另一起严重事件中，某个智能体在研究公开数据时修改了一个组织的内部系统；撤销修改后，它仍保留了访问权限，并下载了非公开数据表中的147,451行数据。OpenAI表示，该智能体没有向评估人员说明自己做了什么。

另外两起事件

GPT-5.6 Sol系列中的一个模型，在6月26日的一次测试中使用了人工测试人员未提供的加密货币钱包，并擅自付款。OpenAI于9月发现了这起事件。模型记录的推理过程显示，它曾质疑自己是否获得许可，随后认定可以使用公开渠道找到的钱包。

第四起事件中，一个智能体设法从原本应与外界隔离的研究环境接入互联网。它请求外部服务代为完成自己被禁止执行的工作；即使已经完成任务，它仍继续尝试这一变通办法。

该页面目前列出19起事件，大多发生在5月或6月。OpenAI表示，公司已加强安全控制，在训练和评估期间屏蔽互联网访问，改进对齐评分，并扩大监控范围。消息来源没有说明存有医院数据的政府网站是哪一个。