Oossa

Google计划为Gemini智能体提供隔离虚拟机

Agent Compute Engine已用于支持Gemini,预计未来几个月开放预览。Google称,系统可暂停闲置智能体以节省算力。

作者: Oossa 发布日期: 1 分钟阅读

Devin Pickell · Unsplash

Google宣布推出Agent Compute Engine服务,为每个AI智能体配备独立隔离的虚拟机。该服务目前已用于支持Gemini。Google表示,未来几个月将开放预览,但尚未公布具体日期。

Google称,每个智能体都运行在一台小型虚拟机(microVM)中,并由Google的Titanium芯片提供安全保护。智能体闲置时,其虚拟机会自动暂停,让其他智能体使用这部分算力。Google还表示,虚拟机之间共享内存,可降低运行成本。

Google公布的算力数据

Google还开源了Agent Substrate。这是一款采用相同方案构建的Kubernetes运行时。该公司称,它能让单台服务器运行的智能体数量提升至原来的十倍。Google表示,在一项涉及200,000个智能体的测试中,暂停和恢复操作耗时不到500毫秒。相关资料没有说明测试环境,也没有提供独立验证结果。

在智能体管理方面,Google将加入令牌跟踪、模型路由,以及对外部身份提供商的支持,包括Ping Identity和SailPoint。该公司称,这些管控功能也将扩展至Cloud Run、Google Kubernetes Engine (GKE)和托管端点。Google尚未提供更多有关服务开放时间或定价的信息。

仍待明确的问题

这项公告介绍的是用于运行和管理智能体的基础设施,而非面向消费者推出的新智能体产品。Google尚未说明预览何时开始、哪些用户符合参与条件,也未公布服务价格。

为什么重要

对于在Google Cloud上构建AI智能体的开发者而言,独立microVM和自动暂停机制有望在隔离智能体的同时,更高效地利用服务器算力。不过,单机容量提升十倍和操作速度等数据均为Google的说法;公告也尚未说明预览资格或定价,因此开发者还无法评估实际成本和服务可用性。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。