# Atenção esparsa acelera em até 6,4× a geração com contexto longo

> O novo método JSSA pode gerar respostas até 6,4× mais rápido com contextos de 128K tokens, mantendo a precisão próxima à da atenção completa.

Oossa · 2026-10-15 · https://oossa.com/pt/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

Pesquisadores liderados por Jiwon Song apresentaram uma técnica chamada Joint Subspace Sparse Attention (JSSA). Ela seleciona tokens individualmente, sem precisar reuni-los antes, o que reduz o tráfego do cache KV. Em uma GPU NVIDIA B200, a JSSA alcançou uma velocidade de geração até 6,43× maior que a da atenção com KV completo em contextos de 128 K tokens. A precisão permaneceu próxima à da atenção com KV completo e à da atenção esparsa densa nativa dos modelos, mesmo em modelos com até 700 B de parâmetros.

## Os fatos

- Publicado: qui., 15 out. 2026
- Aceleração: até 6,43× em um contexto de 128K tokens, em uma GPU NVIDIA B200

## Por que importa

A geração mais rápida com contextos longos permite que desenvolvedores criem assistentes de IA mais baratos e responsivos, capazes de ler e responder sobre documentos muito extensos.

## Fontes e referências

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

Última atualização: 2026-10-15