Oossa

llama.cpp अपडेट से क्वांटाइज़ेशन क्रैश की समस्या दूर

3 Oct 2026 की रिलीज़ में ऐसी जाँचें जोड़ी गई हैं, जो अमान्य राउंडिंग से होने वाले क्रैश को रोकती हैं।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

llama.cpp लाइब्रेरी का संस्करण b11366, 3 Oct 2026 को जारी किया गया। इसमें एक बग ठीक किया गया है, जिसमें क्वांटाइज़ेशन स्केल की खोज के दौरान अनंत या NaN मान मिल सकते थे और Debug बिल्ड में assertion विफल हो जाता था। इस सुधार में राउंडिंग से पहले क्वांटाइज़ेशन स्तर को सुरक्षित सीमा में रखा जाता है। कई क्वांटाइज़ेशन प्रकारों के लिए रिग्रेशन टेस्ट भी जोड़े गए हैं। यह बदलाव macOS से लेकर Windows और Linux तक, सभी समर्थित प्लेटफ़ॉर्म पर लागू होता है।

यह क्यों मायने रखता है

llama.cpp इस्तेमाल करने वाले डेवलपर्स को क्वांटाइज़्ड मॉडल की डीबगिंग के दौरान कम क्रैश का सामना करना पड़ेगा, जिससे विकास के दौरान स्थिरता बेहतर होगी।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।