Oossa

llama.cpp में H2O‑Lightning‑4B निर्णय मॉडल का समर्थन

ओपन-सोर्स इन्फ़रेंस लाइब्रेरी अब H2O‑Lightning‑4B मॉडल को सपोर्ट करती है। यह निर्णय-प्रकार के LoRA वाला Qwen3.5‑4B मॉडल है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org/llama.cpp प्रोजेक्ट ने 2026‑10‑21 को b11773 वर्ज़न जारी किया। इस अपडेट में H2O‑Lightning‑4B नाम का नया मॉडल प्रकार जोड़ा गया है। यह मर्ज किए गए निर्णय LoRA वाला Qwen3.5‑4B मॉडल है। मॉडल के जवाबों की शुरुआत एक स्पेस (" A") से होती है और यह 255 तक लेबल संभाल सकता है। कन्वर्टर अब निर्णय मेटाडेटा लिखता है और मिलान के लिए serve_config.json की जाँच करता है। H2O AI के कर्मचारियों ने इस बदलाव में सह-लेखन किया और इसे कई CPU तथा GPU प्लेटफ़ॉर्म पर परखा गया।

यह क्यों मायने रखता है

डेवलपर अब कई तरह के हार्डवेयर पर llama.cpp के ज़रिए सीधे निर्णय-प्रकार के AI मॉडल चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।