# VocabX taglia del 77% i costi di inferenza per correggere temi in portoghese

> Hugging Face mostra che ricostruire il tokenizer di un modello con VocabX riduce il numero di token e i tempi di elaborazione di un correttore basato su Qwen3‑4B.

Oossa · 2026-10-21 · https://oossa.com/it/vocabx-cuts-inference-cost-by-77-for-portuguese-essay-grader

Hugging Face ha riferito che un servizio di correzione di temi in portoghese basato sul modello Qwen3‑4B da 4 miliardi di parametri ha ridotto la lunghezza media delle risposte da 350 a 101 token, sostituendo il tokenizer originale con uno specifico per il dominio, chiamato VocabX. La modifica ha abbattuto del 77% il costo di inferenza misurato e migliorato la qualità delle correzioni. Il metodo ricostruisce il vocabolario dando priorità al costo dei token anziché alla loro frequenza e accorpa strutture JSON ricorrenti in singoli token macro.

## I fatti

- Il costo è diminuito del 77,0% in un test su 500 richieste (GPU RTX 5090, vLLM).
- La dimensione del vocabolario è passata da ~152.000 a ~65.000 voci.

## Perché conta

Per le aziende che usano modelli di piccole dimensioni in produzione, un tokenizer più economico può dimezzare la latenza e i costi del cloud senza dover riaddestrare il modello.

## Fonti e riferimenti

1. [How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications](https://huggingface.co/blog/Dharma-AI/vocabx-vocabulary-specialization) – Hugging Face, 2026-10-21

Ultimo aggiornamento: 2026-10-21