Google Cloud宣布,搭载NVIDIA Vera Rubin GPU的新款A5X实例将于下个月正式开放使用。此次部署将从美国开始,计划于今年晚些时候扩展至欧洲。每台A5X服务器都配备一块Vera Rubin NVL72 GPU、NVIDIA ConnectX‑9网络卡、Google Virgo网络,以及第四代液冷系统。Google表示,最终将在多个数据中心部署多达960,000块Rubin GPU。
首批客户开始使用A5X
总部位于伦敦、由AlphaGo创作者David Silver创立的Ineffable Intelligence,是A5X的首位用户。该公司正利用这一平台开展大规模强化学习,打造能够通过持续交互不断进步的“超级学习器”。Ineffable表示,Vera CPU与Rubin GPU之间的紧密协同,有助于加快生成经验、评估结果和更新模型这一循环。 营销公司WPP也使用NVIDIA Nemotron模型和OpenShell参考架构测试了A5X。测试显示,过去通常需要多节点集群才能运行的工作负载,如今可以在单个A5X实例上运行,从而加快视频生成、升频等创意智能体工作流程。
安全与能效功能
Google Cloud将成为首批在裸金属A4X Max实例和搭载RTX PRO 6000 Blackwell GPU的G4虚拟机上提供NVIDIA Confidential Computing的服务商之一。这项技术会在数据处理过程中对其进行加密,有助于保护专有模型和敏感数据。 两家公司还在评估NVIDIA DSX MaxLPS工具,以提高每瓦性能,并在基础设施扩展时控制能耗。
为什么重要
对AI开发者而言,新的A5X实例有望加快训练迭代、降低硬件复杂度,从而缩短项目周期并降低成本。处理机密数据的企业则可选择在加密内存中运行模型,降低数据泄露风险。