Oossa

llama.cpp v b11284 में OpenVINO GET_ROWS की समस्या ठीक

30 सितंबर 2026 को जारी llama.cpp के नए संस्करण में OpenVINO की वेट-व्यू समस्या ठीक की गई है। इससे पहले की गई रोक हटती है और हार्डवेयर सपोर्ट बेहतर होता है।

संक्षिप्तOossaOossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ओपन-सोर्स लाइब्रेरी llama.cpp का संस्करण b11284, 30 सितंबर 2026 को जारी किया गया। इस अपडेट में OpenVINO के वेट व्यू को संभालने का तरीका बदला गया है, जिससे GET_ROWS से जुड़ी वह रोक हट गई है जो पहले कुछ क्वांटाइज़्ड मॉडल को चलने नहीं देती थी। इस सुधार में रो ऑफ़सेट को gather इंडेक्स में शामिल किया गया है, ताकि व्यू को सामान्य कॉन्स्टेंट की तरह माना जाए। रिलीज़ में macOS Apple Silicon से लेकर Linux और Windows पर CUDA 13 तक, कई नए बिल्ड टारगेट भी शामिल हैं।

यह क्यों मायने रखता है

इस बदलाव से OpenVINO-सक्षम डिवाइसों पर ज़्यादा क्वांटाइज़्ड LLaMA मॉडल बिना त्रुटि के चल सकेंगे।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।