ओपन-सोर्स llama.cpp लाइब्रेरी का संस्करण b11680 Oct 16 2026 को जारी किया गया। इस अपडेट में Hexagon NPU कोड में बड़े बदलाव किए गए हैं: एक हैक हटाया गया है, F16/F32/BF16 वेट के लिए टेंसर रीपैकिंग जोड़ी गई है और tiled Q5_K get‑rows तथा raw k‑quant tensors का सपोर्ट दिया गया है। इन बदलावों से कई इंटरनल कर्नेल भी अधिक सुव्यवस्थित हुए हैं और CPU, CUDA, Vulkan तथा Hexagon-सक्षम डिवाइसों समेत कई बैक‑एंड पर प्रदर्शन बेहतर हुआ है। प्रोजेक्ट macOS, Linux, Android, Windows और openEuler के कई कॉन्फ़िगरेशन के लिए बिल्ड उपलब्ध कराता है।
यह क्यों मायने रखता है
अब डेवलपर Hexagon-आधारित फोन और अन्य विशेष हार्डवेयर पर llama.cpp मॉडल अधिक कुशलता से चला सकते हैं।
