Google Cloud meddelade att de nya A5X-instanserna, som drivs av NVIDIA Vera Rubin-GPU:er, blir allmänt tillgängliga nästa månad. Lanseringen inleds i USA och ska enligt plan utökas till Europa senare i år. Varje A5X-server kombinerar en Vera Rubin NVL72-GPU, nätverkskort av typen NVIDIA ConnectX‑9, Googles Virgo-nätverk och ett vätskekylningssystem av fjärde generationen. Google uppger att man så småningom kommer att driftsätta upp till 960 000 Rubin-GPU:er vid flera datacenteranläggningar.
De första kunderna tar A5X i bruk
Londonbaserade Ineffable Intelligence, grundat av AlphaGo-skaparen David Silver, är den första användaren av A5X. Företaget använder plattformen för storskalig förstärkningsinlärning och bygger ”superlearners” som blir bättre genom kontinuerlig interaktion. Ineffable uppger att den täta kopplingen mellan Vera-processorn och Rubin-GPU:erna snabbar upp processen med att skapa erfarenheter, utvärdera resultat och uppdatera modeller. Marknadsföringsföretaget WPP testade också A5X med NVIDIAs Nemotron-modeller och referensarkitekturen OpenShell. Testet visade att arbetslaster som vanligtvis krävde ett kluster med flera noder kunde köras på en enda A5X-instans. Det påskyndade kreativa agentflöden, exempelvis videogenerering och uppskalning.
Funktioner för säkerhet och energieffektivitet
Google Cloud blir en av de första leverantörerna som erbjuder NVIDIA Confidential Computing på bare-metal-instanser av typen A4X Max och på G4-virtuella maskiner med RTX PRO 6000 Blackwell-GPU:er. Tekniken krypterar data medan den behandlas, vilket bidrar till att skydda egna modeller och känsliga uppgifter. Båda företagen undersöker också NVIDIAs DSX MaxLPS-verktyg för att förbättra prestandan per watt och hålla energiförbrukningen under kontroll när infrastrukturen byggs ut.
Varför det spelar roll
För AI-utvecklare kan de nya A5X-instanserna innebära snabbare träningscykler och mindre komplex hårdvara, vilket kan sänka projektkostnaderna och förkorta tiden till marknaden. Företag som hanterar konfidentiella uppgifter får möjlighet att köra modeller med krypterat minne, vilket minskar risken för dataläckor.
