Oossa

Uber schetst beveiligingskader voor AI-agenten

Het kader van Uber controleert agenten vóór de inzet, tijdens het gebruik en na de release, en beoordeelt voorgestelde acties in hun context.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Uber Engineering heeft een kader geschetst om te bepalen of een voorgestelde actie van een AI-agent past bij het verzoek van de gebruiker, het doel van de agent, diens machtigingen en de context van de interactie. Volgens Uber kunnen gewone identiteits- en API-controles nagaan of een agent toegang heeft, maar niet of een actie gepast is.

Het kader omvat drie fasen: registratie en beveiligingscontroles vóór de inzet, controles tijdens het gebruik via AI Guards en Agent Guard-hooks, en doorlopende evaluatie aan de hand van uitvoeringstraces en interacties die opnieuw kunnen worden afgespeeld. Uber zegt dat expliciete, agentspecifieke intenties en beperkingen de krachtigste controle vormden, al kost het opzetten ervan werk dat toeneemt met het aantal workflows.

Waarom het ertoe doet

Voor teams die AI-agenten bouwen, biedt de aanpak van Uber een manier om acties in hun context te controleren. De regels per agent kunnen echter flink wat instelwerk vergen; Uber legt niet uit hoe ze kunnen worden afgedwongen bij agenten van externe leveranciers.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.