ओपन-सोर्स llama.cpp लाइब्रेरी का संस्करण b11706, 2026-10-17 को जारी हुआ। इस अपडेट में Q4_0/Q8_0 फ़ॉर्मैट के वेट रीऑर्डर करने के बाद आई SYCL प्रॉम्प्ट प्रोसेसिंग की समस्या ठीक की गई है। इसमें macOS Apple Silicon, Intel, iOS और CPU, Vulkan तथा CUDA 12.8 समेत Linux के कई कॉन्फ़िगरेशन के लिए नए प्री-बिल्ट बाइनरी भी शामिल हैं। ये बिल्ड GitHub के रिलीज़ पेज से डाउनलोड किए जा सकते हैं।
यह क्यों मायने रखता है
अब डेवलपर प्रॉम्प्ट हैंडलिंग की गड़बड़ियों के बिना SYCL-संगत GPU पर llama.cpp चला सकते हैं, जिससे स्थानीय LLM इस्तेमाल के लिए हार्डवेयर के विकल्प बढ़ते हैं।
