Uber Engineering a présenté un cadre permettant de déterminer si l’action proposée par un agent IA correspond à la demande de l’utilisateur, à la fonction de l’agent, à ses autorisations et au contexte de l’échange. Selon Uber, les contrôles classiques d’identité et d’API peuvent vérifier les droits d’accès, mais pas si une action est appropriée.
Le cadre couvre trois étapes : l’enregistrement et les contrôles de sécurité avant le déploiement, les vérifications en cours d’exécution par les AI Guards et les hooks Agent Guard, puis un examen continu à partir des traces d’exécution et des interactions pouvant être rejouées. Uber indique que des objectifs et des contraintes explicites, propres à chaque agent, ont constitué son contrôle le plus efficace, même si leur mise en place demande du travail, qui augmente avec le nombre de flux de travail.
Pourquoi c'est important
Pour les équipes qui créent des agents IA, l’approche d’Uber offre un moyen d’évaluer les actions en contexte, mais les règles propres à chaque agent peuvent demander une préparation importante ; le récit ne précise pas comment les appliquer aux agents de fournisseurs tiers.