Hugging Face ha riferito che un servizio di correzione di temi in portoghese basato sul modello Qwen3‑4B da 4 miliardi di parametri ha ridotto la lunghezza media delle risposte da 350 a 101 token, sostituendo il tokenizer originale con uno specifico per il dominio, chiamato VocabX. La modifica ha abbattuto del 77% il costo di inferenza misurato e migliorato la qualità delle correzioni. Il metodo ricostruisce il vocabolario dando priorità al costo dei token anziché alla loro frequenza e accorpa strutture JSON ricorrenti in singoli token macro.
Perché conta
Per le aziende che usano modelli di piccole dimensioni in produzione, un tokenizer più economico può dimezzare la latenza e i costi del cloud senza dover riaddestrare il modello.
