# छोटे ओपन मॉडल स्थानीय ट्रेनिंग प्रोजेक्ट में तेज़ी से फैसले लेते हैं

> Reddit के एक उपयोगकर्ता ने ऐसे छोटे, ओपन-वेट मॉडल जारी किए हैं, जो विकल्पों में से चुनकर टेक्स्ट बनाए बिना उनकी संभावनाएं बताते हैं। उपयोगकर्ता के मुताबिक, 0.8B मॉडल ने 28 मिलीसेकंड में फैसला किया, जबकि 2B मॉडल ने पांच बेंचमार्क की जांच में 83.1% स्कोर किया।

Oossa · 2026-09-28 · https://oossa.com/hi/small-open-models-make-fast-decisions-in-local-training-project

Jeff नाम के ये मॉडल वर्गीकरण और अन्य विकल्प चुनने के काम के लिए Qwen3.5 और Gemma के फाइन-ट्यून किए गए संस्करण हैं। इन्हें कोई स्थिति और विकल्पों की सूची दें, तो ये एक ही पास में हर विकल्प की संभावना बता देते हैं।

निर्माता का कहना है कि उन्होंने स्थानीय हार्डवेयर पर मॉडल्स को ट्रेन किया और उनके वेट Apache 2.0 लाइसेंस के तहत जारी किए। पांच बेंचमार्क के पैनल में 2B मॉडल ने 83.1% स्कोर किया, जो Jev के प्रकाशित 83.0% के करीब है; हालांकि, जांच में अलग-अलग नमूने इस्तेमाल किए गए थे, इसलिए इन स्कोर की सीधी तुलना नहीं की जा सकती। पोस्ट के मुताबिक, कई चरणों वाले तर्क में Jeff काफी कमजोर है।

## तथ्य

- निर्माता के मुताबिक, एक RTX PRO 6000 GPU पर 0.8B मॉडल को ट्रेन करने में करीब दो घंटे और 2B मॉडल को ट्रेन करने में करीब 3.5 घंटे लगे।
- बताया गया है कि M4 Max पर 0.8B मॉडल ने करीब 28 मिलीसेकंड में फैसला किया।

## यह क्यों मायने रखता है

विकल्पों में से तेज़ी से चुनाव करने वाले छोटे मॉडल उन ऐप्स के काम आ सकते हैं, जहां जटिल तर्क के बजाय रफ्तार और स्थानीय तौर पर चलना ज़्यादा अहम है।

## स्रोत और संदर्भ

1. [Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights)](https://www.reddit.com/r/LocalLLaMA/comments/1wspn24/trained_locally_ultrafast_08b2b_system_1_decision/) – Reddit r/LocalLLaMA, 2026-09-28

अंतिम अपडेट: 2026-09-28