# AbridgeKV reduz o cache de modelos de raciocínio a um quarto

> Segundo os pesquisadores, o método preserva a precisão e o tamanho das respostas usando 75% menos cache de tokens gerados em um teste com 446 problemas.

Oossa · 2026-10-16 · https://oossa.com/pt/abridgekv-shrinks-reasoning-model-cache-to-one-quarter

AbridgeKV é um método para comprimir o cache de memória usado enquanto modelos de linguagem geram longas cadeias de raciocínio. Em um artigo publicado no arXiv em 16 de outubro de 2026, os autores descrevem o treinamento de modelos para resumir blocos de texto concluídos em alguns tokens de pausa aprendidos e, em seguida, descartar as entradas de cache originais desses blocos.

Em 446 problemas de competição, os autores afirmam que manter um quarto do cache gerado igualou a precisão e o tamanho das respostas de um modelo treinado da mesma forma, mas com o cache completo. Eles também relatam um cache 3,5 vezes menor por sequência no vLLM e a resolução de problemas 3,2 vezes mais rápida em uma H100 saturada; o resumo fornecido não informa as pontuações nem identifica uma validação independente.

## Os fatos

- Conjunto de teste: 446 problemas de AIME, HMMT, AMC, BRUMO, CMIMC e SMT, com gerações de até 32K tokens.
- Os autores relatam um cache 3,5× menor por sequência e a resolução de problemas 3,2× mais rápida em uma H100 saturada, em comparação com o cache KV completo.

## Por que importa

Para equipes que atendem tarefas longas de raciocínio, a redução de cache relatada pode permitir que mais sequências caibam na memória, mas o resumo não comprova o desempenho além dos testes com problemas de competição.

## Fontes e referências

1. [AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens](https://arxiv.org/abs/2610.20641) – arXiv, 2026-10-16

Última atualização: 2026-10-16