# VocabXでポルトガル語作文採点の推論コストを77%削減

> Hugging Faceによると、Qwen3‑4B採点モデルのトークナイザーを作り直したところ、トークン数と実行時間が減少した。

Oossa · 2026-10-21 · https://oossa.com/ja/vocabx-cuts-inference-cost-by-77-for-portuguese-essay-grader

Hugging Faceは、40億パラメーターのQwen3‑4Bを使ったポルトガル語作文の採点サービスで、元のトークナイザーをVocabXというドメイン特化型のものに置き換えた結果、平均応答のトークン数が350から101に減ったと報告した。この変更により、採点品質が向上するとともに、測定上の推論コストが77%低下した。この手法では、出現頻度ではなくトークンコストを重視して語彙を再構築し、繰り返し使われるJSON構造を単一のマクロトークンにまとめる。

## 事実

- 500件のリクエストを使ったテストでコストが77.0%低下（RTX 5090 GPU、vLLM）。
- 語彙数は約152,000項目から約65,000項目に減少。

## なぜ重要か

小規模モデルを本番環境で運用する企業にとって、コストの低いトークナイザーを使えば、モデルを再学習させずにレイテンシとクラウド料金を半減できる可能性がある。

## 出典と参考資料

1. [How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications](https://huggingface.co/blog/Dharma-AI/vocabx-vocabulary-specialization) – Hugging Face, 2026-10-21

最終更新: 2026-10-21