Oossa

Google Cloud voegt NVIDIA Vera Rubin A5X-instances toe voor AI

De A5X-instances op basis van NVIDIA Vera Rubin zijn vanaf volgende maand algemeen beschikbaar op Google Cloud. Later dit jaar volgen Europa en plannen om op te schalen naar 960.000 Rubin-GPU’s.

Door Gepubliceerd door Oossa: 1 min lezen

Uneebo Office Design · Unsplash

Google Cloud heeft aangekondigd dat de nieuwe A5X-instances, aangedreven door NVIDIA Vera Rubin-GPU’s, vanaf volgende maand algemeen beschikbaar zijn. De uitrol begint in de VS en wordt later dit jaar uitgebreid naar Europa. Elke A5X-server combineert een Vera Rubin NVL72-GPU, NVIDIA ConnectX‑9-netwerkkaarten, Googles Virgo-netwerk en een vloeistofkoelsysteem van de vierde generatie. Google zegt uiteindelijk op meerdere datacentersites in totaal tot 960.000 Rubin-GPU’s in te zetten.

Eerste klanten zetten A5X in

Het in Londen gevestigde Ineffable Intelligence, opgericht door David Silver, de bedenker van AlphaGo, is de eerste gebruiker van A5X. Het bedrijf gebruikt het platform voor grootschalig reinforcement learning en bouwt aan ‘superlearners’ die beter worden door voortdurende interactie. Volgens Ineffable helpt de nauwe koppeling tussen de Vera-CPU en de Rubin-GPU’s om de cyclus van ervaringen opdoen, resultaten evalueren en modellen bijwerken te versnellen. Marketingbedrijf WPP heeft A5X ook getest met de Nemotron-modellen van NVIDIA en de referentiearchitectuur OpenShell. Uit de test bleek dat workloads waarvoor doorgaans een cluster met meerdere nodes nodig is, op één A5X-instance konden draaien. Daardoor verliepen creatieve agentworkflows, zoals videogeneratie en upscaling, sneller.

Functies voor beveiliging en efficiëntie

Google Cloud wordt een van de eerste aanbieders van NVIDIA Confidential Computing op bare-metal A4X Max-instances en G4-VM’s met RTX PRO 6000 Blackwell-GPU’s. De technologie versleutelt gegevens tijdens de verwerking en helpt zo bedrijfseigen modellen en gevoelige data te beschermen. Beide bedrijven onderzoeken ook NVIDIA’s DSX MaxLPS-tools om de prestaties per watt te verbeteren en het stroomverbruik onder controle te houden terwijl de infrastructuur wordt opgeschaald.

Waarom het ertoe doet

Voor AI-ontwikkelaars beloven de nieuwe A5X-instances snellere trainingscycli en minder complexe hardware. Dat kan de projectkosten en time-to-market verlagen. Bedrijven die met vertrouwelijke gegevens werken, krijgen de mogelijkheid modellen in versleuteld geheugen te draaien, waardoor het risico op datalekken afneemt.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.