# Küçük açık modeller, yerel bir eğitim projesinde hızlı kararlar veriyor

> Bir Reddit kullanıcısı, metin üretmeden seçenekler arasından seçim yapan ve olasılık değerleri döndüren küçük, açık ağırlıklı modeller yayımladı. Kullanıcı, 0.8B modelinin karar süresinin 28 milisaniye olduğunu, 2B modelinin ise beş kıyaslama testinde yüzde 83,1 puan aldığını belirtiyor.

Oossa · 2026-09-28 · https://oossa.com/tr/small-open-models-make-fast-decisions-in-local-training-project

Jeff adı verilen modeller, sınıflandırma ve başka seçim görevleri için Qwen3.5 ve Gemma üzerinde ince ayar yapılarak oluşturuldu. Modele bir durum ve seçenek listesi verildiğinde, tek geçişte her seçenek için bir olasılık döndürüyor.

Geliştirici, modelleri kendi donanımında eğittiğini ve ağırlıkları Apache 2.0 lisansı altında yayımladığını söylüyor. Beş kıyaslama testinden oluşan bir grupta 2B model yüzde 83,1 puan alarak Jev’in yayımladığı yüzde 83,0’lık sonuca yaklaştı; testlerde farklı örnekler kullanıldığı için puanlar doğrudan karşılaştırılamaz. Paylaşıma göre Jeff, birden fazla adım gerektiren akıl yürütme görevlerinde çok daha zayıf.

## Gerçekler

- Geliştirici, 0.8B modeli yaklaşık iki saatte, 2B modeli ise tek bir RTX PRO 6000 GPU’da yaklaşık 3,5 saatte eğittiğini bildiriyor.
- 0.8B modelinin M4 Max üzerinde yaklaşık 28 milisaniyede karar verdiği belirtiliyor.

## Neden önemli

Seçenekler arasında hızla yanıt veren küçük modeller, karmaşık akıl yürütmeden çok hızın ve yerel çalışmanın önemli olduğu uygulamalara uygun olabilir.

## Kaynaklar ve referanslar

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

Son güncelleme: 2026-09-28