# JSSA ускоряет генерацию длинных ответов в LLM

> Новый метод JSSA ускоряет генерацию до 6,4 раза при контексте в 128K токенов, почти не уступая полно́му вниманию по точности.

Oossa · 2026-10-15 · https://oossa.com/ru/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

Исследователи во главе с Дживон Сон представили метод Joint Subspace Sparse Attention (JSSA). Он отбирает токены по отдельности, не собирая их предварительно, благодаря чему снижает нагрузку на передачу данных KV-кэша. На GPU NVIDIA B200 JSSA обеспечил генерацию до 6,43 раза быстрее, чем механизм внимания с полным KV-кэшем, при контексте в 128 K токенов. Точность оказалась близка к показателям полного KV-кэша и встроенного в модель плотного-разреженного внимания — даже для моделей с числом параметров до 700 B.

## Факты

- Опубликовано: Thu Oct 15 2026
- Ускорение: до 6.43× при контексте в 128K токенов на GPU NVIDIA B200

## Почему это важно

Более быстрая генерация при длинном контексте позволит разработчикам создавать более доступных и отзывчивых ИИ-помощников, способных читать и обрабатывать очень большие документы.

## Источники и ссылки

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

Обновлено: 2026-10-15