# AbridgeKV حافظهٔ کش مدل‌های استدلالی را به یک‌چهارم می‌رساند

> پژوهشگران می‌گویند AbridgeKV در آزمونی با 446 مسئله، با 75٪ حافظهٔ کش کمتر برای توکن‌های تولیدشده، دقت و طول خروجی را حفظ می‌کند.

Oossa · 2026-10-16 · https://oossa.com/fa/abridgekv-shrinks-reasoning-model-cache-to-one-quarter

AbridgeKV روشی برای فشرده‌سازی حافظهٔ کشی است که هنگام تولید زنجیره‌های استدلالی طولانی توسط مدل‌های زبانی استفاده می‌شود. نویسندگان در مقاله‌ای که 16 اکتبر 2026 در arXiv منتشر شد، توضیح می‌دهند که مدل‌ها را آموزش می‌دهند بلوک‌های متنیِ تکمیل‌شده را با چند توکن مکثِ یادگرفته‌شده خلاصه کنند و سپس ورودی‌های کش اصلی آن بلوک‌ها را دور بریزند.

نویسندگان می‌گویند نگه‌داشتن یک‌چهارم کشِ تولیدشده، در 446 مسئلهٔ رقابتی، از نظر دقت و طول خروجی با مدلی که به همان شیوه آموزش دیده بود و کل کش را نگه می‌داشت، برابری کرد. همچنین گزارش می‌کنند که در vLLM، کش به‌ازای هر توالی 3.5 برابر کوچک‌تر بود و تکمیل مسئله روی H100 اشباع‌شده 3.2 برابر سریع‌تر انجام شد؛ چکیدهٔ ارائه‌شده امتیازها را ذکر نمی‌کند و اعتبارسنجی مستقل را هم مشخص نکرده است.

## حقایق

- مجموعهٔ آزمون شامل 446 مسئله از AIME، HMMT، AMC، BRUMO، CMIMC و SMT بود و تولید متن تا 32K توکن ادامه داشت.
- نویسندگان می‌گویند در مقایسه با کش کامل KV، کش به‌ازای هر توالی 3.5× کمتر و تکمیل مسئله روی H100 اشباع‌شده 3.2× سریع‌تر بود.

## چرا مهم است

برای تیم‌هایی که وظایف استدلالی طولانی را اجرا می‌کنند، کاهش گزارش‌شدهٔ کش می‌تواند امکان جا دادن توالی‌های بیشتری را در حافظه فراهم کند؛ اما چکیده، عملکرد فراتر از آزمون‌های مسائل رقابتی را اثبات نمی‌کند.

## منابع و ارجاع‌ها

1. [AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens](https://arxiv.org/abs/2610.20641) – arXiv, 2026-10-16

آخرین به‌روزرسانی: 2026-10-16