Notis · 1 min läsning
Små öppna modeller fattar snabba beslut i ett lokalt träningsprojekt
En Reddit-användare har släppt små modeller med öppna vikter som väljer mellan olika alternativ och returnerar sannolikheter utan att generera text. Användaren uppger att 0.8B-modellen fattar beslut på 28 millisekunder och att 2B-modellen fick 83,1 procent i ett test med fem riktmärken.
Oossa · Om Oossa
Modellerna, som kallas Jeff, är finjusteringar av Qwen3.5 och Gemma för klassificering och andra typer av val. Ge en modell en situation och en lista med alternativ, så returnerar den en sannolikhet för varje alternativ i ett enda steg.
Skaparen uppger att modellerna tränades på lokal hårdvara och att vikterna släpptes under licensen Apache 2.0. I ett test med fem riktmärken fick 2B-modellen 83,1 procent, nära Jevs publicerade resultat på 83,0 procent. Testerna använde olika urval, så resultaten är inte direkt jämförbara. Enligt inlägget är Jeff betydligt svagare på resonemang i flera steg.
Varför det spelar roll
Små modeller som snabbt returnerar val kan passa i appar där snabbhet och lokal körning är viktigare än avancerat resonemang.
Källor och referenser
| # | Källa | Utgivare | Datum | Kärnpunkt |
|---|---|---|---|---|
| 1 | Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights) ↗ | Reddit r/LocalLLaMA | 28 sep. 2026 | TL;DR: The Jeff models are a set of Qwen3.5 and Gemma fine-tunes for zero-shot classification: small, efficient, open-weight models with res |
1 källor
Senast uppdaterad:
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.