# VocabX réduit de 77 % le coût d’inférence d’un correcteur de dissertations en portugais

> Hugging Face montre qu’en reconstruisant le tokenizer d’un correcteur basé sur Qwen3‑4B avec VocabX, on réduit le nombre de tokens et le temps d’exécution.

Oossa · 2026-10-21 · https://oossa.com/fr/vocabx-cuts-inference-cost-by-77-for-portuguese-essay-grader

Hugging Face indique qu’un service de correction de dissertations en portugais reposant sur le modèle Qwen3‑4B à 4 milliards de paramètres a réduit la longueur moyenne de ses réponses, passée de 350 à 101 tokens, après avoir remplacé le tokenizer d’origine par un tokenizer spécialisé appelé VocabX. Cette modification a fait baisser de 77 % le coût d’inférence mesuré, tout en améliorant la qualité de la correction. La méthode reconstruit le vocabulaire en privilégiant le coût des tokens plutôt que leur fréquence et regroupe les structures JSON répétées en tokens macro uniques.

## Les faits

- Le coût a baissé de 77,0 % lors d’un test de 500 requêtes (GPU RTX 5090, vLLM).
- La taille du vocabulaire est passée d’environ 152 000 entrées à environ 65 000.

## Pourquoi c'est important

Pour les entreprises qui exploitent des modèles à petite échelle en production, un tokenizer moins coûteux peut réduire de moitié la latence et les factures cloud, sans réentraîner le modèle.

## Sources et références

1. [How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications](https://huggingface.co/blog/Dharma-AI/vocabx-vocabulary-specialization) – Hugging Face, 2026-10-21

Dernière mise à jour: 2026-10-21