# AbridgeKV réduit de 75 % le cache des modèles de raisonnement

> Les chercheurs indiquent qu’AbridgeKV préserve la précision et la longueur des réponses tout en réduisant de 75 % le cache des tokens générés, sur un test de 446 problèmes.

Oossa · 2026-10-16 · https://oossa.com/fr/abridgekv-shrinks-reasoning-model-cache-to-one-quarter

AbridgeKV est une méthode qui compresse le cache mémoire utilisé par les modèles de langage lorsqu’ils génèrent de longues chaînes de raisonnement. Dans un article publié sur arXiv le 16 octobre 2026, ses auteurs expliquent qu’ils entraînent les modèles à résumer les blocs de texte terminés en quelques tokens de pause appris, avant de supprimer les entrées de cache d’origine de ces blocs.

Sur 446 problèmes de concours, les auteurs indiquent que conserver un quart du cache généré permet d’obtenir la même précision et la même longueur de réponse qu’avec un modèle entraîné de façon identique et utilisant le cache complet. Ils font également état d’un cache 3,5 fois plus petit par séquence dans vLLM et d’une résolution des problèmes 3,2 fois plus rapide sur un H100 saturé ; le résumé fourni ne précise pas les scores et ne mentionne aucune validation indépendante.

## Les faits

- Jeu de test : 446 problèmes issus d’AIME, HMMT, AMC, BRUMO, CMIMC et SMT, avec des générations allant jusqu’à 32K tokens.
- Les auteurs font état d’un cache 3,5 fois plus petit par séquence et d’une résolution 3,2 fois plus rapide sur un H100 saturé qu’avec un cache KV complet.

## Pourquoi c'est important

Pour les équipes qui exécutent de longues tâches de raisonnement, la réduction du cache annoncée pourrait permettre de traiter davantage de séquences en mémoire. Le résumé ne permet toutefois pas de tirer des conclusions sur les performances au-delà des tests portant sur des problèmes de concours.

## Sources et références

1. [AbridgeKV: Compressing Long Reasoning into the KV Cache of Learned Pause Tokens](https://arxiv.org/abs/2610.20641) – arXiv, 2026-10-16

Dernière mise à jour: 2026-10-16