Oossa

Google Cloud推出NVIDIA Vera Rubin A5X实例,支持AI训练与推理

Google Cloud将于下个月正式推出基于NVIDIA Vera Rubin的A5X实例,首先在美国上线,随后计划扩展至欧洲,并逐步部署多达960,000块Rubin GPU。

作者: Oossa 发布日期: 1 分钟阅读

Uneebo Office Design · Unsplash

Google Cloud宣布,搭载NVIDIA Vera Rubin GPU的新款A5X实例将于下个月正式开放使用。此次部署将从美国开始,计划于今年晚些时候扩展至欧洲。每台A5X服务器都配备一块Vera Rubin NVL72 GPU、NVIDIA ConnectX‑9网络卡、Google Virgo网络,以及第四代液冷系统。Google表示,最终将在多个数据中心部署多达960,000块Rubin GPU。

首批客户开始使用A5X

总部位于伦敦、由AlphaGo创作者David Silver创立的Ineffable Intelligence,是A5X的首位用户。该公司正利用这一平台开展大规模强化学习,打造能够通过持续交互不断进步的“超级学习器”。Ineffable表示,Vera CPU与Rubin GPU之间的紧密协同,有助于加快生成经验、评估结果和更新模型这一循环。 营销公司WPP也使用NVIDIA Nemotron模型和OpenShell参考架构测试了A5X。测试显示,过去通常需要多节点集群才能运行的工作负载,如今可以在单个A5X实例上运行,从而加快视频生成、升频等创意智能体工作流程。

安全与能效功能

Google Cloud将成为首批在裸金属A4X Max实例和搭载RTX PRO 6000 Blackwell GPU的G4虚拟机上提供NVIDIA Confidential Computing的服务商之一。这项技术会在数据处理过程中对其进行加密,有助于保护专有模型和敏感数据。 两家公司还在评估NVIDIA DSX MaxLPS工具,以提高每瓦性能,并在基础设施扩展时控制能耗。

为什么重要

对AI开发者而言,新的A5X实例有望加快训练迭代、降低硬件复杂度,从而缩短项目周期并降低成本。处理机密数据的企业则可选择在加密内存中运行模型,降低数据泄露风险。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。