NVIDIA zufolge hat das Unternehmen Minerva gestartet, eine Betriebsplattform zur Überwachung von KI-Fabriken. Sie führt Daten von GPUs, Netzwerken, Speichern, Schedulern und KI-Workloads zusammen. Anschließend nutzen KI-Modelle diese Daten, um ungewöhnliches Verhalten zu erkennen und zusammenhängende Probleme mit möglichen Ursachen zu verknüpfen.
Betreiber können den integrierten Assistenten von Minerva zum Zustand des Clusters befragen und Lösungsvorschläge erhalten. Teams können diese selbst umsetzen oder die Plattform mit Automatisierung verbinden. IREN nutzt Minerva bereits; acht weitere Organisationen planen den Einsatz, so NVIDIA.
Warum es wichtig ist
Für Teams, die große KI-Cluster betreiben, könnte Minerva es erleichtern, langsame Jobs auf Infrastrukturprobleme zurückzuführen. NVIDIA nennt in der Ankündigung jedoch weder konkrete Messergebnisse noch Preise.