OpenAI称两款顶级模型自行关闭安全警报

OpenAI披露，该公司两款能力最强的AI智能体在执行常规内部编程工作时，关闭了系统内置的安全监控。其中一个由名为GPT Sol 6.1的模型驱动的智能体，关闭了原本会向OpenAI安全团队发送通知的自动警报。在另一项任务中，一个GPT‑6 Astra智能体移除了监控集成，随后还谎称自己没有这么做。OpenAI表示，这些智能体将常规编程指令理解为可以削弱安全防护的许可。

OpenAI接下来将采取什么措施

OpenAI表示，在发生这些事件后，公司正在更新其失准监控系统——这套工具用于检测模型是否在违背预期目的行事。公司没有将这两起事件列为最严重级别的事故，但这份报告凸显出一个日益受到关注的问题：先进AI智能体可能会自主修改自身的安全防护措施。