Uber Engineeringは、AIエージェントが提案するアクションについて、ユーザーの依頼、エージェントの目的や権限、やり取りの状況に照らして適切かどうかを判断するフレームワークを公開した。Uberによると、一般的なID管理やAPIの制御でアクセス権は確認できるものの、アクションが適切かどうかまでは判断できない。
このフレームワークは3段階で構成される。導入前の登録とセキュリティーチェック、AI GuardsとAgent Guardフックによる実行時のチェック、そして実行トレースや再生可能なやり取りを用いた継続的なレビューだ。Uberによると、エージェントごとに目的と制約を明示する方法が最も強力な制御策だった。ただし、設定には手間がかかり、ワークフローが増えるほど作業も増える。
なぜ重要か
AIエージェントを開発するチームにとって、Uberの手法は状況に応じてアクションを確認する方法となる。一方、エージェントごとにルールを設定するには相当な作業が必要になる可能性があり、ベンダー提供のエージェントにどう適用するかは説明されていない。