Google Cloud hat angekündigt, dass seine neuen A5X-Instanzen mit NVIDIA-Vera-Rubin-GPUs ab nächsten Monat allgemein verfügbar sein werden. Der Start erfolgt in den USA; noch in diesem Jahr soll das Angebot auf Europa ausgeweitet werden. Jeder A5X-Server kombiniert eine Vera Rubin NVL72-GPU, NVIDIA-ConnectX-9-Netzwerkkarten, Googles Virgo-Netzwerk und ein Flüssigkeitskühlsystem der vierten Generation. Google zufolge sollen an mehreren Rechenzentrumsstandorten künftig bis zu 960.000 Rubin-GPUs zum Einsatz kommen.
Erste Kunden setzen A5X ein
Das Londoner Unternehmen Ineffable Intelligence, gegründet von AlphaGo-Entwickler David Silver, ist der erste Nutzer von A5X. Es verwendet die Plattform für Reinforcement Learning im großen Maßstab und entwickelt „Superlearner“, die sich durch kontinuierliche Interaktion verbessern. Ineffable zufolge beschleunigt die enge Verbindung zwischen der Vera-CPU und den Rubin-GPUs den Kreislauf aus dem Sammeln von Erfahrungen, dem Bewerten von Ergebnissen und dem Aktualisieren von Modellen. Auch die Marketingfirma WPP hat A5X mit den Nemotron-Modellen von NVIDIA und der OpenShell-Referenzarchitektur getestet. Der Test zeigte, dass sich Arbeitslasten, für die üblicherweise ein Cluster aus mehreren Knoten benötigt wird, auf einer einzelnen A5X-Instanz ausführen ließen. Dadurch wurden Pipelines für kreative KI-Anwendungen wie die Videogenerierung und das Hochskalieren von Videos beschleunigt.
Sicherheits- und Effizienzfunktionen
Google Cloud gehört zu den ersten Anbietern, die NVIDIA Confidential Computing auf Bare-Metal-A4X-Max-Instanzen und G4-VMs mit RTX PRO 6000 Blackwell-GPUs anbieten. Die Technologie verschlüsselt Daten während der Verarbeitung und trägt so dazu bei, proprietäre Modelle und sensible Daten zu schützen. Beide Unternehmen prüfen außerdem den Einsatz von NVIDIA DSX MaxLPS, um die Leistung pro Watt zu verbessern und den Stromverbrauch beim Ausbau der Infrastruktur im Griff zu behalten.
Warum es wichtig ist
Für KI-Entwickler versprechen die neuen A5X-Instanzen schnellere Trainingsschleifen und weniger komplexe Hardware. Das kann Projektkosten senken und die Markteinführung beschleunigen. Unternehmen, die mit vertraulichen Daten arbeiten, erhalten die Möglichkeit, Modelle im verschlüsselten Speicher auszuführen und so das Risiko von Datenlecks zu verringern.
