ओपन-सोर्स प्रोजेक्ट llama.cpp ने Oct 11, 2026 को संस्करण b11558 जारी किया। इस अपडेट में वह बग ठीक किया गया है, जिसके कारण Q4_K क्वांटाइज़्ड वेट इस्तेमाल करने पर OpenCL कर्नेल डिवाइस की इमेज लिमिट से आगे निकल जाते थे। इसमें उन डिवाइस के लिए फ़ॉलबैक विकल्प भी जोड़ा गया है जो इस लिमिट तक पहुँच जाते हैं। साथ ही, Q4_0 कर्नेल के लिए ब्रॉडकास्टिंग और RMS-norm की गणनाएँ भी दुरुस्त की गई हैं। इन बदलावों के सह-लेखक Qualcomm के Hongqiang Wang हैं।
यह क्यों मायने रखता है
llama.cpp को GPU पर इस्तेमाल करने वाले डेवलपर अब बिना क्रैश हुए ज़्यादा हार्डवेयर पर Q4_K क्वांटाइज़्ड मॉडल चला सकते हैं।
