# VocabX से पुर्तगाली निबंध जाँचने की लागत 77% घटी

> Hugging Face के मुताबिक, Qwen3‑4B ग्रेडर का टोकनाइज़र VocabX से दोबारा बनाने पर टोकन संख्या और रनटाइम घटे।

Oossa · 2026-10-21 · https://oossa.com/hi/vocabx-cuts-inference-cost-by-77-for-portuguese-essay-grader

Hugging Face ने बताया कि 4-बिलियन पैरामीटर वाले Qwen3‑4B मॉडल पर बनी पुर्तगाली निबंध-जाँच सेवा में, मूल टोकनाइज़र की जगह VocabX नाम का डोमेन-विशिष्ट टोकनाइज़र लगाने के बाद औसत जवाब 350 टोकन से घटकर 101 टोकन का रह गया। इस बदलाव से मापी गई इन्फ़रेंस लागत 77% कम हुई और ग्रेडिंग की गुणवत्ता भी बेहतर हुई। इस तरीके में टोकन की आवृत्ति के बजाय उनकी लागत पर ध्यान देते हुए शब्दावली को नए सिरे से बनाया जाता है और बार-बार आने वाली JSON संरचनाओं को एकल मैक्रो टोकन में समेटा जाता है।

## तथ्य

- 500 अनुरोधों के परीक्षण में लागत 77.0% घटी (RTX 5090 GPU, vLLM)।
- शब्दावली का आकार ~152,000 प्रविष्टियों से घटकर ~65,000 रह गया।

## यह क्यों मायने रखता है

प्रोडक्शन में छोटे पैमाने के मॉडल चलाने वाली कंपनियों के लिए, सस्ता टोकनाइज़र मॉडल को दोबारा प्रशिक्षित किए बिना लेटेंसी और क्लाउड बिल आधे तक घटा सकता है।

## स्रोत और संदर्भ

1. [How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications](https://huggingface.co/blog/Dharma-AI/vocabx-vocabulary-specialization) – Hugging Face, 2026-10-21

अंतिम अपडेट: 2026-10-21