پژوهشگران GateRQ را معرفی کرده‌اند؛ روشی برای فشرده‌سازی جدول‌های حافظهٔ شرطی، یعنی مخزن‌های بزرگی از الگوهای متنی که به یک مدل زبانی متصل می‌شوند. GateRQ به‌جای اختصاص دقت بیشتر به ردیف‌هایی که زیاد به آن‌ها مراجعه می‌شود، از مقدار گیتِ هر جست‌وجو استفاده می‌کند تا تعیین کند کدهای ۱بیتی بیشتری خوانده شوند یا نه. در مقاله آمده است که مقدار گیت را می‌توان از روی یک کد ۱بیتی محاسبه کرد.
پژوهشگران می‌گویند در DeepSeek-V4.1-Flash، مصرف حافظهٔ جدول در GPU در مقایسه با جدول‌های FP8، ۷٫۸ برابر کمتر و توان عملیاتی vLLM بین ۱۱ تا ۳۱ درصد بیشتر بوده است. آن‌ها در دو مدل گزارش کرده‌اند که با میانگین خواندن ۱٫۵۰ بیت در هر جست‌وجو، حدود ۱ امتیاز در PopQA از دست می‌رود و با ۲٫۱۰ بیت، این افت ۰٫۲ امتیاز است؛ این روش به آموزش مجدد نیاز ندارد.
چرا مهم است
برای تیم‌هایی که مدل‌های مجهز به جدول‌های حافظهٔ شرطی را اجرا می‌کنند، GateRQ می‌تواند مصرف حافظهٔ GPU را کاهش دهد و هم‌زمان توان عملیاتی را افزایش دهد؛ بااین‌حال، نتایج گزارش‌شده نشان نمی‌دهند این روش بیرون از مدل‌های آزمایش‌شده چه عملکردی دارد.
