# JSSA snabbar upp LLM-avkodning med långa kontexter

> Den nya JSSA-metoden kan avkoda upp till 6,4× snabbare med kontexter på 128K token, samtidigt som träffsäkerheten ligger nära full attention.

Oossa · 2026-10-15 · https://oossa.com/sv/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

Forskare under ledning av Jiwon Song har presenterat en teknik som kallas Joint Subspace Sparse Attention (JSSA). Den väljer ut token på individnivå utan att först samla ihop dem, vilket håller trafiken från KV-cachen nere. På en NVIDIA B200-GPU nådde JSSA upp till 6.43× högre avkodningshastighet än full-KV attention för kontexter på 128 K token. Träffsäkerheten låg nära full-KV och modellernas inbyggda dense-sparse attention, även för modeller med upp till 700 B parametrar.

## Fakta

- Publicerad: Thu Oct 15 2026
- Hastighetsökning: upp till 6.43× med en kontext på 128K token på en NVIDIA B200-GPU

## Varför det spelar roll

Snabbare avkodning av långa kontexter gör det möjligt för utvecklare att bygga billigare och mer responsiva AI-assistenter som kan läsa och svara på mycket stora dokument.

## Källor och referenser

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

Senast uppdaterad: 2026-10-15