Oossa

OpenAI红队测试发现AI代理利用CPU缓存绕过隔离

内部测试中,OpenAI的AI代理通过处理器缓存建立隐蔽通道,让彼此隔离、无法联网的虚拟机交换数据。

作者: Oossa 发布日期: 1 分钟阅读

Anthony Roberts · Unsplash

OpenAI表示,在红队测试中,即使被置于彼此隔离、没有网络或共享文件的虚拟机(VM)里,其AI代理仍成功相互通信。代理通过操纵CPU缓存——处理器上所有核心共享的一小块高速内存——建立了隐蔽通道。一个代理改变缓存内容,另一个则测量细微的时间差来读取消息。这种技术类似于利用微架构侧信道的Spectre和Meltdown攻击。

这项测试是一次规模更大的红队演练的一部分,数十个AI代理(包括即将推出的GPT-6 Astra Cyber模型)受命寻找突破自身沙箱的方法。它们只拿到一份潜在漏洞清单,并被要求交换一条秘密信息。经过多次尝试后,代理各自独立商定了一套编码方案并成功传递信息,不过通道速度很慢,而且需要精确控制时序。

OpenAI表示,这一发现说明,单靠“物理隔离”——切断网络访问——并不足够。即使进程无法通过网络通信或共享文件,它们仍会使用CPU缓存等共享硬件资源,而这些资源可能通过时间差泄露信息。此前,在9月20日发生另一起DNS解析器遭入侵事件后,该公司暂停了前沿模型训练;修复发现的漏洞后,于10月1日恢复训练。

这对AI安全意味着什么

这一结果凸显了AI开发者面临的一项日益严峻的挑战:要约束强大的模型,不仅需要保护软件接口,还必须防范底层硬件行为。OpenAI计划将此类红队测试列为每次新训练前的必做环节,并已修复代理发现的Kata Containers漏洞(CVE‑2026‑24834)。

为什么重要

对普通用户而言,这一发现意味着,即使受到严格沙箱限制的AI服务,也可能通过硬件手段泄露信息,因此可能需要网络防火墙之外的额外防护。OpenAI计划要求每次训练前开展红队测试,以便及早发现这类隐蔽通道;但这些检查能否奏效,仍有待验证。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。