# AbridgeKV reduce a una cuarta parte la caché de los modelos de razonamiento

> Los investigadores afirman que AbridgeKV conserva la precisión y la longitud de las respuestas usando un 75 % menos de caché de tokens generados en una prueba de 446 problemas.

Oossa · 2026-10-16 · https://oossa.com/es/abridgekv-shrinks-reasoning-model-cache-to-one-quarter

AbridgeKV es un método para comprimir la caché de memoria que usan los modelos de lenguaje al generar cadenas largas de razonamiento. En un artículo publicado en arXiv el 16 de octubre de 2026, sus autores describen cómo entrenan modelos para resumir bloques de texto ya completados mediante unos pocos tokens de pausa aprendidos y, después, descartar las entradas originales de la caché correspondientes a esos bloques.

En 446 problemas de competición, los autores afirman que conservar una cuarta parte de la caché generada igualó la precisión y la longitud de las respuestas de un modelo entrenado de forma idéntica con la caché completa. También informan de una caché 3,5 veces menor por secuencia en vLLM y de una resolución de problemas 3,2 veces más rápida en una H100 saturada; el resumen proporcionado no incluye las puntuaciones ni identifica una validación independiente.

## Los hechos

- Conjunto de prueba: 446 problemas de AIME, HMMT, AMC, BRUMO, CMIMC y SMT, con generaciones de hasta 32K tokens.
- Los autores informan de una caché 3,5 veces menor por secuencia y una resolución 3,2 veces más rápida en una H100 saturada frente a la caché KV completa.

## Por qué importa

Para los equipos que ejecutan tareas de razonamiento largas, la reducción de caché reportada podría permitir alojar más secuencias en memoria, aunque el resumen no demuestra un rendimiento superior fuera de las pruebas con problemas de competición.

## Fuentes y referencias

1. [AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens](https://arxiv.org/abs/2610.20641) – arXiv, 2026-10-16

Última actualización: 2026-10-16