# Modelos pequenos e abertos tomam decisões rápidas em projeto de treinamento local

> Um usuário do Reddit lançou modelos pequenos de pesos abertos que escolhem entre opções e retornam probabilidades sem gerar texto. Segundo o usuário, o modelo 0.8B toma uma decisão em 28 milissegundos, e o modelo 2B obteve 83,1% em um teste com cinco benchmarks.

Oossa · 2026-09-28 · https://oossa.com/pt/small-open-models-make-fast-decisions-in-local-training-project

Os modelos, chamados Jeff, são versões ajustadas do Qwen3.5 e do Gemma para classificação e outras escolhas. Basta apresentar uma situação e uma lista de opções para que o modelo retorne uma probabilidade para cada uma em uma única passada.

O criador diz que treinou os modelos em hardware local e disponibilizou os pesos sob a licença Apache 2.0. Em um conjunto de cinco benchmarks, o modelo 2B obteve 83,1%, perto dos 83,0% publicados por Jev; os testes usaram amostras diferentes, portanto as pontuações não são diretamente comparáveis. Segundo a publicação, Jeff é bem mais fraco em raciocínio em várias etapas.

## Os fatos

- O criador afirma ter treinado o modelo 0.8B em cerca de duas horas e o modelo 2B em cerca de 3,5 horas, usando uma única GPU RTX PRO 6000.
- Segundo o relato, o modelo 0.8B tomou uma decisão em cerca de 28 milissegundos em um M4 Max.

## Por que importa

Modelos pequenos que retornam opções rapidamente podem ser úteis em aplicativos nos quais a velocidade e a execução local são mais importantes do que o raciocínio complexo.

## Fontes e referências

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

Última atualização: 2026-09-28