# شتاب‌دهی به رمزگشایی مدل‌های زبانی با JSSA

> روش جدید JSSA در پنجره‌های متنی 128K توکنی، رمزگشایی را تا 6.4× سریع‌تر می‌کند و دقت را نزدیک به توجه کامل نگه می‌دارد.

Oossa · 2026-10-15 · https://oossa.com/fa/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

پژوهشگرانی به سرپرستی Jiwon Song روشی به نام Joint Subspace Sparse Attention (JSSA) معرفی کرده‌اند. این روش توکن‌ها را به‌صورت جداگانه انتخاب می‌کند و پیش از آن نیازی به گردآوری آن‌ها ندارد؛ در نتیجه، ترافیک حافظهٔ پنهان KV پایین می‌ماند. JSSA روی یک پردازندهٔ گرافیکی NVIDIA B200، در پنجره‌های متنی 128 K توکنی، به سرعت رمزگشایی تا 6.43× بیشتر از توجه full‑KV دست یافت. دقت آن به دقت full‑KV و توجه متراکم‌ـ‌تنک بومی مدل نزدیک ماند؛ حتی در مدل‌هایی با حداکثر 700 B پارامتر.

## حقایق

- تاریخ انتشار: پنج‌شنبه، 15 اکتبر 2026
- افزایش سرعت: تا 6.43× در پنجرهٔ متنی 128K توکنی، روی پردازندهٔ گرافیکی NVIDIA B200

## چرا مهم است

رمزگشایی سریع‌تر در پنجره‌های متنی بلند به توسعه‌دهندگان امکان می‌دهد دستیارهای هوش مصنوعی ارزان‌تر و پاسخ‌گوتری بسازند که بتوانند اسناد بسیار بزرگی را بخوانند و به آن‌ها پاسخ دهند.

## منابع و ارجاع‌ها

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

آخرین به‌روزرسانی: 2026-10-15
