Uber Engineering hat ein Konzept vorgestellt, mit dem sich prüfen lässt, ob die geplante Aktion eines KI-Agenten zur Anfrage des Nutzers, zum Zweck des Agenten, zu seinen Berechtigungen und zum Kontext der Interaktion passt. Laut Uber können herkömmliche Identitäts- und API-Kontrollen zwar den Zugriff prüfen, nicht aber, ob eine Aktion angemessen ist.
Das Konzept umfasst drei Phasen: Registrierung und Sicherheitsprüfungen vor dem Einsatz, Kontrollen während des Betriebs durch AI Guards und Agent Guard Hooks sowie laufende Überprüfungen anhand von Ausführungsprotokollen und wiederholbaren Interaktionen. Am wirksamsten seien laut Uber klare, agentenspezifische Ziele und Einschränkungen gewesen. Deren Einrichtung sei jedoch aufwendig und werde mit der Zahl der Arbeitsabläufe noch anspruchsvoller.
Warum es wichtig ist
Für Teams, die KI-Agenten entwickeln, bietet Ubers Ansatz eine Möglichkeit, Aktionen im jeweiligen Kontext zu prüfen. Die Regeln für jeden einzelnen Agenten können jedoch erheblichen Einrichtungsaufwand bedeuten. Wie sie sich bei Agenten von Drittanbietern durchsetzen lassen, wird in der Darstellung nicht erklärt.