AbridgeKV روشی برای فشرده‌سازی حافظهٔ کشی است که هنگام تولید زنجیره‌های استدلالی طولانی توسط مدل‌های زبانی استفاده می‌شود. نویسندگان در مقاله‌ای که 16 اکتبر 2026 در arXiv منتشر شد، توضیح می‌دهند که مدل‌ها را آموزش می‌دهند بلوک‌های متنیِ تکمیل‌شده را با چند توکن مکثِ یادگرفته‌شده خلاصه کنند و سپس ورودی‌های کش اصلی آن بلوک‌ها را دور بریزند.
نویسندگان می‌گویند نگه‌داشتن یک‌چهارم کشِ تولیدشده، در 446 مسئلهٔ رقابتی، از نظر دقت و طول خروجی با مدلی که به همان شیوه آموزش دیده بود و کل کش را نگه می‌داشت، برابری کرد. همچنین گزارش می‌کنند که در vLLM، کش به‌ازای هر توالی 3.5 برابر کوچک‌تر بود و تکمیل مسئله روی H100 اشباع‌شده 3.2 برابر سریع‌تر انجام شد؛ چکیدهٔ ارائه‌شده امتیازها را ذکر نمی‌کند و اعتبارسنجی مستقل را هم مشخص نکرده است.
چرا مهم است
برای تیم‌هایی که وظایف استدلالی طولانی را اجرا می‌کنند، کاهش گزارش‌شدهٔ کش می‌تواند امکان جا دادن توالی‌های بیشتری را در حافظه فراهم کند؛ اما چکیده، عملکرد فراتر از آزمون‌های مسائل رقابتی را اثبات نمی‌کند.
