# Kleine open modellen nemen snel beslissingen in lokaal trainingsproject

> Een Reddit-gebruiker heeft kleine modellen met open gewichten uitgebracht die een keuze maken uit verschillende opties en kansen teruggeven zonder tekst te genereren. De gebruiker meldt een beslistijd van 28 milliseconden voor het 0.8B-model en een score van 83.1% voor het 2B-model op een test met vijf benchmarks.

Oossa · 2026-09-28 · https://oossa.com/nl/small-open-models-make-fast-decisions-in-local-training-project

De modellen, Jeff genaamd, zijn finetunes van Qwen3.5 en Gemma voor classificatie en andere keuzeopdrachten. Geef een model een situatie en een lijst met opties, en het kent in één keer aan elke optie een kans toe.

De maker zegt de modellen op lokale hardware te hebben getraind en de gewichten onder de Apache 2.0-licentie te hebben uitgebracht. Op een reeks van vijf benchmarks scoorde het 2B-model 83.1%, bijna evenveel als de gepubliceerde 83.0% van Jev; er zijn verschillende steekproeven gebruikt, dus de scores zijn niet rechtstreeks vergelijkbaar. Volgens het bericht presteert Jeff veel minder goed bij redeneren in meerdere stappen.

## De feiten

- De maker meldt dat het ongeveer twee uur kostte om het 0.8B-model te trainen en ongeveer 3.5 uur voor het 2B-model, op één RTX PRO 6000-GPU.
- Volgens de maker deed het 0.8B-model er op een M4 Max ongeveer 28 milliseconden over om een beslissing te nemen.

## Waarom het ertoe doet

Kleine modellen die snel een keuze geven, kunnen geschikt zijn voor apps waarin snelheid en lokaal draaien belangrijker zijn dan complex redeneren.

## Bronnen en referenties

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

Laatst bijgewerkt: 2026-09-28