# Små öppna modeller fattar snabba beslut i ett lokalt träningsprojekt

> En Reddit-användare har släppt små modeller med öppna vikter som väljer mellan olika alternativ och returnerar sannolikheter utan att generera text. Användaren uppger att 0.8B-modellen fattar beslut på 28 millisekunder och att 2B-modellen fick 83,1 procent i ett test med fem riktmärken.

Oossa · 2026-09-28 · https://oossa.com/sv/small-open-models-make-fast-decisions-in-local-training-project

Modellerna, som kallas Jeff, är finjusteringar av Qwen3.5 och Gemma för klassificering och andra typer av val. Ge en modell en situation och en lista med alternativ, så returnerar den en sannolikhet för varje alternativ i ett enda steg.

Skaparen uppger att modellerna tränades på lokal hårdvara och att vikterna släpptes under licensen Apache 2.0. I ett test med fem riktmärken fick 2B-modellen 83,1 procent, nära Jevs publicerade resultat på 83,0 procent. Testerna använde olika urval, så resultaten är inte direkt jämförbara. Enligt inlägget är Jeff betydligt svagare på resonemang i flera steg.

## Fakta

- Skaparen uppger att det tog omkring två timmar att träna 0.8B-modellen och omkring 3,5 timmar att träna 2B-modellen på en enda RTX PRO 6000-GPU.
- Enligt uppgift fattade 0.8B-modellen ett beslut på omkring 28 millisekunder på en M4 Max.

## Varför det spelar roll

Små modeller som snabbt returnerar val kan passa i appar där snabbhet och lokal körning är viktigare än avancerat resonemang.

## Källor och referenser

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

Senast uppdaterad: 2026-09-28