Oossa

Uber presenta il framework di sicurezza per gli agenti AI

Il framework di Uber verifica gli agenti prima del rilascio, durante l’esecuzione e dopo la distribuzione, valutando le azioni proposte in base al contesto.

BreveDi Pubblicato da Oossa: 1 min di lettura

Uber Engineering ha presentato un framework per stabilire se l’azione proposta da un agente AI è coerente con la richiesta dell’utente, lo scopo dell’agente, le autorizzazioni di cui dispone e il contesto dell’interazione. Secondo Uber, i normali controlli di identità e delle API possono verificare gli accessi, ma non stabilire se un’azione sia appropriata.

Il framework copre tre fasi: registrazione e controlli di sicurezza prima del rilascio, verifiche durante l’esecuzione tramite AI Guards e hook di Agent Guard, e revisioni continue basate sulle tracce di esecuzione e su interazioni riproducibili. Uber afferma che definire intenti e vincoli espliciti e specifici per ciascun agente è stato il controllo più efficace, anche se configurarli richiede lavoro, che aumenta con il numero di flussi di lavoro.

Perché conta

Per i team che sviluppano agenti AI, l’approccio di Uber offre un modo per valutare le azioni nel loro contesto, ma le regole specifiche per ciascun agente possono richiedere un notevole lavoro di configurazione; il resoconto non spiega come applicarle agli agenti di fornitori esterni.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.