# JSSA accelera la generazione di LLM con contesti lunghi

> Il nuovo metodo JSSA può generare testo fino a 6,4× più velocemente con contesti da 128K token, mantenendo un’accuratezza vicina a quella dell’attenzione completa.

Oossa · 2026-10-15 · https://oossa.com/it/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

Un gruppo di ricercatori guidato da Jiwon Song ha presentato una tecnica chiamata Joint Subspace Sparse Attention (JSSA). Il metodo seleziona i token uno per uno, senza raggrupparli prima, riducendo il traffico della cache KV. Su una GPU NVIDIA B200, JSSA ha raggiunto una velocità di generazione fino a 6.43× superiore a quella dell’attenzione full-KV con contesti da 128 K token. L’accuratezza è rimasta vicina a quella dell’attenzione full-KV e dell’attenzione densa-sparsa nativa del modello, anche con modelli fino a 700 B parametri.

## I fatti

- Pubblicato: gio 15 ott 2026
- Incremento di velocità: fino a 6.43× con un contesto da 128K token su una GPU NVIDIA B200

## Perché conta

Una generazione più rapida con contesti lunghi permette agli sviluppatori di creare assistenti IA più economici e reattivi, capaci di leggere e rispondere a documenti molto voluminosi.

## Fonti e riferimenti

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

Ultimo aggiornamento: 2026-10-15