# JSSA beschleunigt das Decoding von LLMs mit langem Kontext

> Die neue JSSA-Methode decodiert bei Kontexten mit 128K Tokens bis zu 6,4× schneller und hält die Genauigkeit nahe am Niveau vollständiger Attention.

Oossa · 2026-10-15 · https://oossa.com/de/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

Forschende unter der Leitung von Jiwon Song haben eine Technik namens Joint Subspace Sparse Attention (JSSA) vorgestellt. Sie wählt Tokens einzeln aus, ohne sie zuvor zusammenzuführen, und hält so den Datenverkehr für den KV-Cache gering. Auf einer NVIDIA B200 GPU erreichte JSSA bei Kontexten mit 128 K Tokens eine bis zu 6,43× höhere Decoding-Geschwindigkeit als Attention mit vollständigem KV-Cache. Die Genauigkeit lag weiterhin nahe am Niveau von Attention mit vollständigem KV-Cache und der modellspezifischen Dense-Sparse-Attention – selbst bei Modellen mit bis zu 700 B Parametern.

## Die Fakten

- Veröffentlicht: Do., 15. Okt. 2026
- Beschleunigung: bis zu 6,43× bei einem Kontext mit 128K Tokens auf einer NVIDIA B200 GPU

## Warum es wichtig ist

Schnelleres Decoding bei langen Kontexten ermöglicht es Entwicklern, günstigere und reaktionsschnellere KI-Assistenten zu bauen, die sehr große Dokumente lesen und darauf antworten können.

## Quellen und Referenzen

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

Zuletzt aktualisiert: 2026-10-15