Uber Engineering har beskrivit ett ramverk för att avgöra om en AI-agents föreslagna åtgärd stämmer med användarens begäran, agentens syfte och behörigheter samt sammanhanget för interaktionen. Enligt Uber kan vanliga identitets- och API-kontroller kontrollera åtkomst, men inte om en åtgärd är lämplig.
Ramverket omfattar tre steg: registrering och säkerhetskontroller före driftsättning, kontroller under körning med AI Guards och Agent Guard-krokar samt löpande granskning med hjälp av körningsspår och interaktioner som kan spelas upp igen. Uber uppger att uttryckliga, agentspecifika avsikter och begränsningar var den effektivaste kontrollen, men att det kräver arbete att sätta upp dem – och att arbetsinsatsen ökar med antalet arbetsflöden.
Varför det spelar roll
För team som bygger AI-agenter erbjuder Ubers metod ett sätt att granska åtgärder i sitt sammanhang. Men regler för varje enskild agent kan kräva omfattande förberedelser, och beskrivningen förklarar inte hur de kan tillämpas på agentlösningar från leverantörer.