# VocabX reduz em 77% o custo de inferência de um corretor de redações em português

> A Hugging Face mostra que reconstruir o tokenizador de um corretor baseado no Qwen3‑4B com o VocabX reduziu o número de tokens e o tempo de execução.

Oossa · 2026-10-21 · https://oossa.com/pt/vocabx-cuts-inference-cost-by-77-for-portuguese-essay-grader

A Hugging Face informou que um serviço de correção de redações em português, baseado no modelo Qwen3‑4B, de 4 bilhões de parâmetros, reduziu a resposta média de 350 para 101 tokens após substituir o tokenizador original por um tokenizador especializado chamado VocabX. A mudança diminuiu em 77% o custo de inferência medido e melhorou a qualidade da correção. O método reconstrói o vocabulário para priorizar o custo dos tokens, em vez da frequência, e combina estruturas JSON repetidas em macro tokens únicos.

## Os fatos

- O custo caiu 77,0% em um teste com 500 solicitações (GPU RTX 5090, vLLM).
- O tamanho do vocabulário caiu de ~152.000 para ~65.000 entradas.

## Por que importa

Para empresas que executam modelos de pequena escala em produção, um tokenizador mais barato pode reduzir pela metade a latência e os custos de nuvem, sem retreinar o modelo.

## Fontes e referências

1. [How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications](https://huggingface.co/blog/Dharma-AI/vocabx-vocabulary-specialization) – Hugging Face, 2026-10-21

Última atualização: 2026-10-21