Oossa

إطار جديد يقيس تغطية ضوابط وكلاء LLM

يتيح guardscope للمطورين التحقق من مسارات أفعال الوكلاء التي تفحصها ضوابط التشغيل فعليًا.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر باحثون guardscope، وهي أداة تقيس مدى مراقبة ضوابط التشغيل لأفعال وكلاء LLM. يتنبأ الإطار أولًا بمسارات الأفعال الـ15 المحتملة للوكيل التي يمكن للضابط رصدها، ثم يشغّل عبء عمل على أحد تصاميم النشر الثمانية، ويصنّف كل فعل على أنه خضع للفحص أو تجاوز الضوابط أو مُنع. استُخدم في التجارب إطارا عمل للوكلاء ومجموعة أدوات الحوكمة من Microsoft وagentgateway. الشيفرة والإطار متاحان للجمهور.

لماذا يهم

بات بإمكان المؤسسات التأكد من أن ضوابط السلامة ترصد فعلًا الأفعال التي يُفترض أن تراقبها.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.