عرضت Uber Engineering إطارًا لتحديد مدى توافق الإجراء الذي يقترحه وكيل ذكاء اصطناعي مع طلب المستخدم، وغرض الوكيل، والصلاحيات الممنوحة له، وسياق التفاعل. وتقول أوبر إن ضوابط الهوية وواجهات API المعتادة يمكنها التحقق من صلاحيات الوصول، لكنها لا تحدد ما إذا كان الإجراء ملائمًا.
يشمل الإطار ثلاث مراحل: التسجيل والفحوص الأمنية قبل النشر، والفحوص أثناء التشغيل عبر AI Guards وخطافات Agent Guard، والمراجعة المستمرة باستخدام سجلات التنفيذ والتفاعلات القابلة لإعادة التشغيل. وتقول أوبر إن تحديد نوايا وقيود صريحة خاصة بكل وكيل كان أقوى ضوابطها، رغم أن إعدادها يتطلب جهدًا يزداد مع عدد مسارات العمل.
لماذا يهم
يقدم نهج أوبر للفرق التي تطوّر وكلاء ذكاء اصطناعي وسيلة لفحص الإجراءات ضمن سياقها، لكن وضع قواعد خاصة بكل وكيل قد يتطلب إعدادًا مكثفًا؛ كما أن التقرير لا يوضح كيفية فرض هذه القواعد على وكلاء المورّدين.