Oossa

Unsloth में Flint, MOSS-Image और Nemotron Bolt 4B का सपोर्ट

Unsloth के 23 अक्टूबर के रिलीज़ में तीन मॉडल स्थानीय रूप से चलाने का सपोर्ट जोड़ा गया है। साथ ही, केवल चैट वाला डेस्कटॉप इंस्टॉल विकल्प और स्थानीय मॉडल को फाइन-ट्यून करने के लिए API भी आई है।

लेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

Daniel Eliashevskyi · Unsplash

Unsloth के वर्ज़न 0.1.910-beta में Recursive के Flint, OpenMOSS के MOSS-Image और NVIDIA के Nemotron Bolt 4B का सपोर्ट जोड़ा गया है। रिलीज़ के मुताबिक, उपयोगकर्ता Unsloth के ज़रिए ये मॉडल अपने कंप्यूटर पर चला सकते हैं। इसमें Unsloth Desktop का छोटा, केवल चैट वाला इंस्टॉलेशन विकल्प भी जोड़ा गया है; उपयोगकर्ता बाद में Settings में ट्रेनिंग के फीचर जोड़ सकते हैं।

Flint 40-बिलियन पैरामीटर वाला मिक्सचर-ऑफ-एक्सपर्ट्स मॉडल है। इस डिज़ाइन में हर काम के लिए इसके कुछ ही पैरामीटर सक्रिय होते हैं। Unsloth का कहना है कि Flint में 2.5 बिलियन सक्रिय पैरामीटर हैं, यह 256,000-टोकन कॉन्टेक्स्ट को सपोर्ट करता है और छोटे कॉन्टेक्स्ट के लिए 3-बिट क्वांटाइज़ेशन पर 24 GB मेमोरी में चल सकता है। रिलीज़ में SWE-bench Pro v2 पर 89.7 का स्कोर बताया गया है, जबकि Qwen 3.6 का स्कोर 73.8 है। हालांकि, इसमें टेस्ट की सेटिंग्स नहीं दी गई हैं और यह भी नहीं बताया गया कि मूल्यांकन किसने किया।

इमेज जनरेशन और स्थानीय फाइन-ट्यूनिंग

MOSS-Image 5.1-बिलियन पैरामीटर वाला इमेज मॉडल है, जो अंग्रेज़ी या चीनी टेक्स्ट वाली तस्वीरें बना सकता है। Unsloth के मुताबिक, यह 16 GB मेमोरी वाले GPU पर चलता है; इसके GGUF वर्ज़न Mac और ऐसे कंप्यूटरों पर भी चल सकते हैं जिनमें समर्थित GPU नहीं है। रिलीज़ में तस्वीरों की गुणवत्ता की तुलना या प्रदर्शन के आंकड़े नहीं दिए गए हैं।

Nemotron Bolt 4B, Gemma 4 E4B का NVIDIA का रीजनिंग-केंद्रित ट्यून है, जिसे टूल इस्तेमाल करने और निर्देशों का पालन करने के लिए बनाया गया है। Unsloth ने Tau2-Bench पर इसका स्कोर 63.2 बताया है, जबकि मूल मॉडल का स्कोर 38.7 था। कंपनी का कहना है कि Gemma Nemotron 4B ने NVIDIA के 21 में से 16 टेस्ट में Gemma 4 E4B से बेहतर प्रदर्शन किया। ये नतीजे रिलीज़ में दिए गए हैं; पोस्ट में टेस्ट की सेटिंग्स या स्वतंत्र पुष्टि शामिल नहीं है।

मॉडल ट्रेन करने वालों के लिए Unsloth का कहना है कि उसका नया फाइन-ट्यूनिंग API, OpenAI के SDK के साथ काम करता है। इससे डेटासेट अपलोड करके स्थानीय मॉडल पर सुपरवाइज़्ड फाइन-ट्यूनिंग की जा सकती है। रिलीज़ के मुताबिक, Unsloth Desktop मुफ़्त और ओपन सोर्स है और Windows, macOS तथा Linux के लिए डाउनलोड उपलब्ध हैं।

यह क्यों मायने रखता है

रिलीज़ के मुताबिक, 16 GB GPU वाले लोग Unsloth के ज़रिए अंग्रेज़ी या चीनी टेक्स्ट वाली तस्वीरें बनाने के लिए MOSS-Image चला सकते हैं। Flint के लिए बताई गई 24 GB मेमोरी की ज़रूरत केवल 3-बिट क्वांटाइज़ेशन और छोटे कॉन्टेक्स्ट पर लागू होती है। रिलीज़ में स्वतंत्र टेस्ट के नतीजे या बेंचमार्क स्कोर की भरोसेमंद तुलना के लिए पर्याप्त सेटिंग्स नहीं दी गई हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।