# کاهش ۷۷ درصدی هزینه استنتاج با VocabX برای تصحیح انشا به پرتغالی

> Hugging Face نشان داده است که بازسازی توکن‌ساز یک مدل با VocabX، تعداد توکن‌ها و زمان اجرا را برای یک سامانه تصحیح انشا مبتنی بر Qwen3‑4B کاهش می‌دهد.

Oossa · 2026-10-21 · https://oossa.com/fa/vocabx-cuts-inference-cost-by-77-for-portuguese-essay-grader

Hugging Face گزارش داده است که یک سرویس تصحیح انشای پرتغالی مبتنی بر مدل ۴ میلیاردپارامتری Qwen3‑4B، پس از جایگزینی توکن‌ساز اصلی با توکن‌سازی تخصصی به نام VocabX، میانگین پاسخ را از 350 توکن به 101 توکن کاهش داد. این تغییر، ضمن بهبود کیفیت تصحیح، هزینه اندازه‌گیری‌شده استنتاج را 77% پایین آورد. در این روش، واژگان با تمرکز بر هزینه توکن‌ها، نه بسامد آن‌ها، از نو ساخته می‌شود و ساختارهای تکراری JSON در قالب توکن‌های ماکروِ واحد ادغام می‌شوند.

## حقایق

- هزینه در آزمایش 500 درخواست با GPU مدل RTX 5090 و vLLM، 77.0% کاهش یافت.
- اندازه واژگان از حدود 152,000 مدخل به حدود 65,000 مدخل کاهش یافت.

## چرا مهم است

برای شرکت‌هایی که مدل‌های کوچک را در مقیاس محدود به کار می‌گیرند، توکن‌سازی ارزان‌تر می‌تواند بدون آموزش دوباره مدل، زمان تأخیر و هزینه‌های ابری را نصف کند.

## منابع و ارجاع‌ها

1. [How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications](https://huggingface.co/blog/Dharma-AI/vocabx-vocabulary-specialization) – Hugging Face, 2026-10-21

آخرین به‌روزرسانی: 2026-10-21