Oossa

Uber stellt Sicherheitskonzept für KI-Agenten vor

Das Konzept prüft Agenten vor dem Einsatz, während des Betriebs und danach. Dabei wird bewertet, ob ihre geplanten Aktionen zum jeweiligen Kontext passen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Uber Engineering hat ein Konzept vorgestellt, mit dem sich prüfen lässt, ob die geplante Aktion eines KI-Agenten zur Anfrage des Nutzers, zum Zweck des Agenten, zu seinen Berechtigungen und zum Kontext der Interaktion passt. Laut Uber können herkömmliche Identitäts- und API-Kontrollen zwar den Zugriff prüfen, nicht aber, ob eine Aktion angemessen ist.

Das Konzept umfasst drei Phasen: Registrierung und Sicherheitsprüfungen vor dem Einsatz, Kontrollen während des Betriebs durch AI Guards und Agent Guard Hooks sowie laufende Überprüfungen anhand von Ausführungsprotokollen und wiederholbaren Interaktionen. Am wirksamsten seien laut Uber klare, agentenspezifische Ziele und Einschränkungen gewesen. Deren Einrichtung sei jedoch aufwendig und werde mit der Zahl der Arbeitsabläufe noch anspruchsvoller.

Warum es wichtig ist

Für Teams, die KI-Agenten entwickeln, bietet Ubers Ansatz eine Möglichkeit, Aktionen im jeweiligen Kontext zu prüfen. Die Regeln für jeden einzelnen Agenten können jedoch erheblichen Einrichtungsaufwand bedeuten. Wie sie sich bei Agenten von Drittanbietern durchsetzen lassen, wird in der Darstellung nicht erklärt.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.