Uber Engineering ha presentato un framework per stabilire se l’azione proposta da un agente AI è coerente con la richiesta dell’utente, lo scopo dell’agente, le autorizzazioni di cui dispone e il contesto dell’interazione. Secondo Uber, i normali controlli di identità e delle API possono verificare gli accessi, ma non stabilire se un’azione sia appropriata.
Il framework copre tre fasi: registrazione e controlli di sicurezza prima del rilascio, verifiche durante l’esecuzione tramite AI Guards e hook di Agent Guard, e revisioni continue basate sulle tracce di esecuzione e su interazioni riproducibili. Uber afferma che definire intenti e vincoli espliciti e specifici per ciascun agente è stato il controllo più efficace, anche se configurarli richiede lavoro, che aumenta con il numero di flussi di lavoro.
Perché conta
Per i team che sviluppano agenti AI, l’approccio di Uber offre un modo per valutare le azioni nel loro contesto, ma le regole specifiche per ciascun agente possono richiedere un notevole lavoro di configurazione; il resoconto non spiega come applicarle agli agenti di fornitori esterni.