Uber Engineering heeft een kader geschetst om te bepalen of een voorgestelde actie van een AI-agent past bij het verzoek van de gebruiker, het doel van de agent, diens machtigingen en de context van de interactie. Volgens Uber kunnen gewone identiteits- en API-controles nagaan of een agent toegang heeft, maar niet of een actie gepast is.
Het kader omvat drie fasen: registratie en beveiligingscontroles vóór de inzet, controles tijdens het gebruik via AI Guards en Agent Guard-hooks, en doorlopende evaluatie aan de hand van uitvoeringstraces en interacties die opnieuw kunnen worden afgespeeld. Uber zegt dat expliciete, agentspecifieke intenties en beperkingen de krachtigste controle vormden, al kost het opzetten ervan werk dat toeneemt met het aantal workflows.
Waarom het ertoe doet
Voor teams die AI-agenten bouwen, biedt de aanpak van Uber een manier om acties in hun context te controleren. De regels per agent kunnen echter flink wat instelwerk vergen; Uber legt niet uit hoe ze kunnen worden afgedwongen bij agenten van externe leveranciers.