Oossa

التحقق الذاتي يقلل انحياز الموافقة لدى النماذج متعددة الوسائط

يقدم باحثون SGV، وهي طريقة من خطوتين تساعد نماذج اللغة متعددة الوسائط على رصد الأفعال الخاطئة بدقة أكبر، وتحسن أداء المهام اللاحقة بما يصل إلى 25 نقطة مئوية.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

يقدم مويسيس أندرادي وزملاؤه SGV، وهي تقنية للتحقق لدى نماذج اللغة متعددة الوسائط، تطلب من النموذج أولًا تحديد ما يبدو عليه السلوك الصحيح، ثم تقييم فعل بعينه بناءً على تلك القائمة. وتُظهر الورقة البحثية أن هذه الطريقة تحد من ميل النماذج إلى الموافقة المفرطة على الأفعال، وهو ما يُعرف بانحياز الموافقة، وترفع معدلات اكتشاف الإخفاقات بما يصل إلى 25 نقطة مئوية، والدقة الإجمالية بمقدار 14 نقطة مئوية. وعند تطبيقها على نموذج متخصص في واجهات المستخدم الرسومية ضمن OSWorld، وسياسة انتشار في RoboMimic، ووكيل ReAct في VisualWebArena، حسّنت أدوات التحقق إنجاز المهام بنحو 20 نقطة مئوية مقارنة بأفضل النتائج السابقة.

لماذا يهم

يساعد التحقق الأفضل وكلاء الذكاء الاصطناعي على تجنب الثقة الزائفة، ما يؤدي إلى أداء أكثر موثوقية لمستخدمي أدوات الويب المرئية والروبوتات.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.