Google Cloud는 NVIDIA Vera Rubin GPU를 탑재한 새 A5X 인스턴스를 다음 달 정식 출시한다고 발표했다. 미국에서 먼저 제공을 시작하고, 올해 말 유럽으로 확대할 예정이다. A5X 서버 한 대에는 Vera Rubin NVL72 GPU, NVIDIA ConnectX‑9 네트워킹 카드, Google의 Virgo 네트워크, 4세대 액체 냉각 시스템이 결합된다. Google은 여러 데이터센터에 걸쳐 궁극적으로 Rubin GPU를 최대 960,000개 운영할 계획이라고 밝혔다.
첫 고객들이 A5X 활용에 나서
AlphaGo를 만든 David Silver가 설립한 런던 기반 기업 Ineffable Intelligence가 A5X의 첫 사용자다. 이 회사는 대규모 강화학습에 플랫폼을 활용해, 지속적인 상호작용을 통해 성능을 높이는 ‘슈퍼러너’를 구축하고 있다. Ineffable은 Vera CPU와 Rubin GPU의 긴밀한 연결 덕분에 경험 생성, 결과 평가, 모델 업데이트로 이어지는 반복 과정이 빨라진다고 밝혔다. 마케팅 기업 WPP도 NVIDIA의 Nemotron 모델과 OpenShell 참조 아키텍처를 이용해 A5X를 시험했다. 테스트 결과, 일반적으로 여러 노드로 구성된 클러스터가 필요했던 작업을 A5X 인스턴스 하나에서 실행할 수 있었으며, 동영상 생성과 업스케일링 같은 크리에이티브 에이전트 작업 흐름의 속도를 높였다.
보안 및 효율성 기능
Google Cloud는 베어메탈 A4X Max 인스턴스와 RTX PRO 6000 Blackwell GPU를 사용하는 G4 VM에서 NVIDIA Confidential Computing을 제공하는 첫 사업자 중 하나가 될 예정이다. 이 기술은 데이터가 처리되는 동안 암호화해 독점 모델과 민감한 데이터를 보호하는 데 도움을 준다. 두 회사는 인프라 확장에 따른 전력 사용을 억제하기 위해 와트당 성능을 높이는 NVIDIA DSX MaxLPS 도구도 검토하고 있다.
왜 중요한가
AI 개발자에게 새 A5X 인스턴스는 학습 반복 속도를 높이고 하드웨어 구성을 단순화해 프로젝트 비용과 출시 기간을 줄일 수 있는 선택지가 된다. 기밀 데이터를 다루는 기업은 메모리 내 데이터를 암호화해 모델을 실행할 수 있어 데이터 유출 위험을 낮출 수 있다.
