Oossa

MEMENTO با یادداشت‌های کوتاه به پرسش‌های کتاب‌های بلند پاسخ می‌دهد

مقاله‌ای در arXiv می‌گوید MEMENTO دقت Qwen3-8B را در پاسخ‌گویی به پرسش‌های کتاب بالا برده و هم‌زمان زمینهٔ کاری را زیر 20,000 توکن نگه داشته است.

نویسنده: منتشرشده توسط Oossa: 2 دقیقه مطالعه

JESHOOTS.COM · Unsplash

مقاله‌ای تازه در arXiv، MEMENTO را معرفی می‌کند؛ یک عامل هوش مصنوعی که آموزش دیده هنگام پردازش متن‌های بسیار بلند تصمیم بگیرد چه اطلاعاتی را نگه دارد. در آزمون پاسخ‌گویی به پرسش‌های کتاب، این سامانه دقت Qwen3-8B را از 36.9% به 67.8% رساند و در هر لحظه حداکثر از 20,000 توکن زمینه استفاده کرد. طول کتاب‌های آزموده‌شده به 2.5 میلیون توکن می‌رسید.

این روش به یکی از مشکلات پایه‌ای سامانه‌های هوش مصنوعی می‌پردازد: آن‌ها همیشه نمی‌توانند یک گفت‌وگو یا سند بلند را به‌طور کامل در زمینهٔ کاری خود نگه دارند. یکی از راهکارهای رایج، فشرده‌سازی نام دارد و در آن مطالب قبلی با یادداشتی کوتاه‌تر جایگزین می‌شوند. مقاله می‌گوید عامل‌های آماده، از جمله GPT-5.5 و GLM-5.3، اغلب یادداشت‌های ضعیفی تهیه می‌کنند و یادگیری تقویتی به‌تنهایی به‌ندرت به آن‌ها یاد می‌دهد یادداشت‌برداری مؤثری داشته باشند.

MEMENTO چطور زمینه را مدیریت می‌کند

MEMENTO بر پایهٔ Qwen3-8B ساخته شده است. آموزش آن با نمونه‌های مصنوعی آغاز شد که در آن‌ها یادداشت‌ها با استفاده از اطلاعاتی که بعداً به دست آمده بود تهیه می‌شد؛ سپس مدل با این نمونه‌ها تنظیم دقیق شد. گروه پژوهشی یادگیری تقویتی را هم اضافه کرد؛ روشی که با بازخورد، عملکرد مدل را بهبود می‌دهد. پاداش بر اساس درست‌بودن پاسخ، کیفیت یادداشت و میزان هماهنگی اعتمادبه‌نفس عامل با عملکردش تعیین می‌شد.

سامانه آموزش دید تا سابقهٔ خود را در یک پنجرهٔ زمینهٔ تازه خلاصه کند. بااین‌حال، مقاله می‌گوید هنگام آزمون از روش‌های دیگری هم استفاده شد؛ از جمله بازگرداندن اطلاعات به زمینه و مراجعهٔ دوباره به مطالب قبلی وقتی اعتمادبه‌نفس پایین بود. این راهبردها کمک می‌کنند عامل بدون بارگذاری کل متن در زمینهٔ فعال خود، کتاب‌های بلند را پردازش کند.

نتایج چه چیزی نشان می‌دهند

طبق گزارش مقاله، MEMENTO در چهار معیار سنجش پرسش‌وپاسخ دربارهٔ کتاب‌ها امتیاز 67.8% گرفت؛ در همان شرایط آزمون، امتیاز عامل GPT-5.5 برابر با 13.1% و امتیاز سامانه‌ای که به متن کامل کتاب دسترسی داشت 56.7% بود. MEMENTO در مقایسه با یک عامل GLM-5.3 که مقاله آن را حدود 100 برابر بزرگ‌تر توصیف می‌کند نیز امتیاز 69.3% گرفت. مقاله می‌گوید هزینهٔ MEMENTO کمتر از یک‌پنجاهم هزینهٔ عامل GPT-5.5 و یک‌نهم هزینهٔ عامل GLM-5.3 بود؛ همچنین با هزینه‌ای معادل یک‌بیست‌وششم، با دسترسی به متن کامل کتاب، تنها 6.4 واحد درصد از GLM-5.3 عقب ماند.

این نتایج را نویسندگان مقاله گزارش کرده‌اند و نشان نمی‌دهد که MEMENTO در کارها یا اسناد دیگر نیز همین‌طور عمل خواهد کرد. چکیده نام معیارهای سنجش، هزینه‌های دلاری یا جزئیات دسترسی عمومی به مدل را ذکر نمی‌کند. یافته‌های مقاله به پاسخ‌گویی به پرسش‌های مربوط به کتاب و شرایط آزمونی که در آن توصیف شده، محدود است.

چرا مهم است

برای سازندگان ابزارهای هوش مصنوعی که باید به پرسش‌های مربوط به کتاب‌های بلند پاسخ دهند، MEMENTO نشان می‌دهد یادداشت‌برداریِ آموخته‌شده می‌تواند میزان متنی را که مدل باید هم‌زمان نگه دارد کاهش دهد. دستاوردهای گزارش‌شده به آزمون‌های پرسش‌وپاسخ دربارهٔ کتاب محدود است؛ بنابراین هنوز روشن نیست این روش برای اسناد بلند دیگر یا استفاده‌های روزمره هم سودمند باشد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.