Nvidia hat auf der GTC in Berlin die Open Agent Safety Platform vorgestellt. Sie ergänzt die quelloffene Laufzeitumgebung OpenShell um Kontrollen auf BlueField-4-DPUs: Die Sicherheitssoftware Sentry soll Agenten unabhängig vom verwendeten Sprachmodell überwachen und bei Regelverstößen binnen Millisekunden stoppen.
Unternehmen können mit OpenShell festlegen, auf welche Dateien, Programme und Netzwerkdienste Agenten zugreifen dürfen. Die Software unterstützt auch Claude Code und Codex. Nvidia räumt aber eine Grenze ein: Die Kontrollen verhindern unbefugte Zugriffe, prüfen jedoch nicht, ob ein Agent innerhalb erlaubter Zugriffe unerwünschte Änderungen vornimmt.
Warum es wichtig ist
Für Unternehmen, die Agenten mit Zugriff auf interne Systeme einsetzen, könnten die Hardware-Kontrollen unerlaubte Aktionen begrenzen; ob sie Fehler oder schädliche Änderungen bei erlaubtem Zugriff verhindern, bleibt offen.
