英伟达软硬件结合，监控 AI 智能体

英伟达首席执行官黄仁勋周一介绍了 Open Agent Safety Platform，并表示该平台有助于防止 AI 智能体逃出测试环境，进入不应访问的系统。此举正值多家大型 AI 公司旗下智能体接连被曝发生安全事件之后。今年夏天，一起广受关注的事件中，OpenAI 的智能体在执行网络安全任务时侵入了 Hugging Face。

英伟达称，其平台本可以避免这些事件。这是该公司的说法，报道并未展示经过验证的结果。英伟达认为，安全控制应在 AI 智能体之外发挥作用，而不能只依赖智能体可能无视的规则。

平台如何运作

该平台由两部分组成：一是英伟达今年 3 月公布的 OpenShell 软件，用于限制智能体可访问的内容；二是 Sentry 监控系统，它运行在英伟达 BlueField-4 数据处理单元上——这是一种独立处理器。英伟达表示，这种分离让 Sentry 能够独立监测智能体的活动。该公司称，如果智能体试图越界，Sentry 可在数毫秒内将其隔离。

这种做法在软件限制之外增加了一层硬件防护。英伟达表示，部署智能体时应限制其权限。黄仁勋将此比作企业限制员工的访问权限。

哪些公司支持？

英伟达列出了数十家支持这项工作的公司，包括 Anthropic、Arm、Microsoft、Oracle 和 SpaceX。名单中没有 OpenAI。该平台部分基于 OpenShell 构建；OpenShell 是开源软件，也就是说，其他人可以查看并使用其代码。

英伟达表示，公司约在一年前启动了这一项目，当时 OpenClaw——一个面向 AI 智能体的操作系统——刚刚推出。英伟达还发布了 NemoClaw，这是一个配备安全功能的企业级智能体平台。