Nota · 1 min de leitura
Modelos pequenos e abertos tomam decisões rápidas em projeto de treinamento local
Um usuário do Reddit lançou modelos pequenos de pesos abertos que escolhem entre opções e retornam probabilidades sem gerar texto. Segundo o usuário, o modelo 0.8B toma uma decisão em 28 milissegundos, e o modelo 2B obteve 83,1% em um teste com cinco benchmarks.
Oossa · Sobre a Oossa
Os modelos, chamados Jeff, são versões ajustadas do Qwen3.5 e do Gemma para classificação e outras escolhas. Basta apresentar uma situação e uma lista de opções para que o modelo retorne uma probabilidade para cada uma em uma única passada.
O criador diz que treinou os modelos em hardware local e disponibilizou os pesos sob a licença Apache 2.0. Em um conjunto de cinco benchmarks, o modelo 2B obteve 83,1%, perto dos 83,0% publicados por Jev; os testes usaram amostras diferentes, portanto as pontuações não são diretamente comparáveis. Segundo a publicação, Jeff é bem mais fraco em raciocínio em várias etapas.
Por que importa
Modelos pequenos que retornam opções rapidamente podem ser úteis em aplicativos nos quais a velocidade e a execução local são mais importantes do que o raciocínio complexo.
Fontes e referências
| # | Fonte | Veículo | Data | Ponto principal |
|---|---|---|---|---|
| 1 | Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights) ↗ | Reddit r/LocalLLaMA | 28 de set. de 2026 | TL;DR: The Jeff models are a set of Qwen3.5 and Gemma fine-tunes for zero-shot classification: small, efficient, open-weight models with res |
1 fontes
Última atualização:
Oossa · Newsletter
A semana em IA, explicada
Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.