Kort bericht · 1 min lezen
Kleine open modellen nemen snel beslissingen in lokaal trainingsproject
Een Reddit-gebruiker heeft kleine modellen met open gewichten uitgebracht die een keuze maken uit verschillende opties en kansen teruggeven zonder tekst te genereren. De gebruiker meldt een beslistijd van 28 milliseconden voor het 0.8B-model en een score van 83.1% voor het 2B-model op een test met vijf benchmarks.
Oossa · Over Oossa
De modellen, Jeff genaamd, zijn finetunes van Qwen3.5 en Gemma voor classificatie en andere keuzeopdrachten. Geef een model een situatie en een lijst met opties, en het kent in één keer aan elke optie een kans toe.
De maker zegt de modellen op lokale hardware te hebben getraind en de gewichten onder de Apache 2.0-licentie te hebben uitgebracht. Op een reeks van vijf benchmarks scoorde het 2B-model 83.1%, bijna evenveel als de gepubliceerde 83.0% van Jev; er zijn verschillende steekproeven gebruikt, dus de scores zijn niet rechtstreeks vergelijkbaar. Volgens het bericht presteert Jeff veel minder goed bij redeneren in meerdere stappen.
Waarom het ertoe doet
Kleine modellen die snel een keuze geven, kunnen geschikt zijn voor apps waarin snelheid en lokaal draaien belangrijker zijn dan complex redeneren.
Bronnen en referenties
| # | Bron | Medium | Datum | Kernpunt |
|---|---|---|---|---|
| 1 | Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights) ↗ | Reddit r/LocalLLaMA | 28 sep 2026 | TL;DR: The Jeff models are a set of Qwen3.5 and Gemma fine-tunes for zero-shot classification: small, efficient, open-weight models with res |
1 bronnen
Laatst bijgewerkt:
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.