Oossa

راستی‌آزمایی خودبنیاد، سوگیری توافق را در مدل‌های چندوجهی کاهش می‌دهد

پژوهشگران روش دومرحله‌ای SGV را معرفی کرده‌اند که به مدل‌های زبانی چندوجهی کمک می‌کند کنش‌های نادرست را دقیق‌تر تشخیص دهند و عملکرد وظایف بعدی را تا 25 واحد درصد بهبود ببخشند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Moises Andrade و همکارانش SGV را معرفی کرده‌اند؛ روشی برای راستی‌آزمایی در مدل‌های زبانی چندوجهی که ابتدا از مدل می‌خواهد رفتار درست را فهرست کند و سپس کنشی مشخص را با آن فهرست بسنجد. مقاله نشان می‌دهد این روش گرایش مدل‌ها به تأیید بیش‌ازحد کنش‌ها ــ که «سوگیری توافق» نامیده می‌شود ــ را کاهش می‌دهد، نرخ تشخیص شکست را تا 25 واحد درصد و دقت کلی را 14 واحد درصد بالا می‌برد. استفاده از این روش برای یک مدل تخصصی رابط گرافیکی کاربر در OSWorld، یک سیاست مبتنی بر انتشار در RoboMimic و یک عامل ReAct در VisualWebArena، میزان تکمیل وظایف را در مقایسه با بهترین نتایج پیشین حدود 20 واحد درصد افزایش می‌دهد.

چرا مهم است

راستی‌آزمایی بهتر به عامل‌های هوش مصنوعی کمک می‌کند از اطمینان کاذب بپرهیزند و در ابزارهای وبِ دیداری و رباتیک عملکرد قابل‌اعتمادتری داشته باشند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.