Oossa

أوبر تحدد إطارًا أمنيًا لوكلاء الذكاء الاصطناعي

يفحص إطار أوبر الوكلاء قبل نشرهم وأثناء التشغيل وبعده، ويضيف مراجعات تراعي السياق للإجراءات التي يقترحونها.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

عرضت Uber Engineering إطارًا لتحديد مدى توافق الإجراء الذي يقترحه وكيل ذكاء اصطناعي مع طلب المستخدم، وغرض الوكيل، والصلاحيات الممنوحة له، وسياق التفاعل. وتقول أوبر إن ضوابط الهوية وواجهات API المعتادة يمكنها التحقق من صلاحيات الوصول، لكنها لا تحدد ما إذا كان الإجراء ملائمًا.

يشمل الإطار ثلاث مراحل: التسجيل والفحوص الأمنية قبل النشر، والفحوص أثناء التشغيل عبر AI Guards وخطافات Agent Guard، والمراجعة المستمرة باستخدام سجلات التنفيذ والتفاعلات القابلة لإعادة التشغيل. وتقول أوبر إن تحديد نوايا وقيود صريحة خاصة بكل وكيل كان أقوى ضوابطها، رغم أن إعدادها يتطلب جهدًا يزداد مع عدد مسارات العمل.

لماذا يهم

يقدم نهج أوبر للفرق التي تطوّر وكلاء ذكاء اصطناعي وسيلة لفحص الإجراءات ضمن سياقها، لكن وضع قواعد خاصة بكل وكيل قد يتطلب إعدادًا مكثفًا؛ كما أن التقرير لا يوضح كيفية فرض هذه القواعد على وكلاء المورّدين.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.