Oossa

Uber détaille son cadre de sécurité pour les agents IA

Le cadre d’Uber vérifie les agents avant leur déploiement, pendant leur fonctionnement et après leur mise en service, en évaluant leurs actions proposées selon le contexte.

BrèvePar Publié par Oossa: 1 min de lecture

Uber Engineering a présenté un cadre permettant de déterminer si l’action proposée par un agent IA correspond à la demande de l’utilisateur, à la fonction de l’agent, à ses autorisations et au contexte de l’échange. Selon Uber, les contrôles classiques d’identité et d’API peuvent vérifier les droits d’accès, mais pas si une action est appropriée.

Le cadre couvre trois étapes : l’enregistrement et les contrôles de sécurité avant le déploiement, les vérifications en cours d’exécution par les AI Guards et les hooks Agent Guard, puis un examen continu à partir des traces d’exécution et des interactions pouvant être rejouées. Uber indique que des objectifs et des contraintes explicites, propres à chaque agent, ont constitué son contrôle le plus efficace, même si leur mise en place demande du travail, qui augmente avec le nombre de flux de travail.

Pourquoi c'est important

Pour les équipes qui créent des agents IA, l’approche d’Uber offre un moyen d’évaluer les actions en contexte, mais les règles propres à chaque agent peuvent demander une préparation importante ; le récit ne précise pas comment les appliquer aux agents de fournisseurs tiers.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.