# Joint Subspace Sparse Attention acelera la generación en LLM con contextos largos

> El nuevo método JSSA puede generar respuestas hasta 6,4× más rápido con contextos de 128K tokens y mantener una precisión cercana a la de la atención completa.

Oossa · 2026-10-15 · https://oossa.com/es/joint-subspace-sparse-attention-speeds-up-long-context-llm-decoding

Un equipo de investigadores liderado por Jiwon Song presentó una técnica llamada Joint Subspace Sparse Attention (JSSA). El método selecciona tokens de forma individual, sin reunirlos primero, lo que mantiene bajo el tráfico de la caché KV. En una GPU NVIDIA B200, JSSA alcanzó una velocidad de generación hasta 6.43× superior a la de la atención con KV completa en contextos de 128 K tokens. La precisión se mantuvo cerca de la de la atención con KV completa y de la atención densa-dispersa propia del modelo, incluso en modelos de hasta 700 B de parámetros.

## Los hechos

- Publicado: jue. 15 oct. 2026
- Aceleración: hasta 6.43× en un contexto de 128K tokens en una GPU NVIDIA B200

## Por qué importa

Una generación más rápida con contextos largos permite a los desarrolladores crear asistentes de IA más económicos y ágiles, capaces de leer y responder sobre documentos muy extensos.

## Fuentes y referencias

1. [Joint Subspace Sparse Attention for Efficient Long-Context Decoding](https://arxiv.org/abs/2610.19026) – arXiv, 2026-10-15

Última actualización: 2026-10-15