ggml‑org/llama.cpp प्रोजेक्ट ने 2026‑10‑19 को b11741 संस्करण जारी किया। इसमें नए OpenCL कर्नेल जोड़े गए हैं, जो तीन क्वांटाइज़्ड फ़ॉर्मैट (q4_0, q4_k, q6_k) के लिए मैट्रिक्स गुणा तेज़ करने हेतु DP4A निर्देशों का इस्तेमाल करते हैं। इस अपडेट में अलाइनमेंट से जुड़ी एक समस्या भी ठीक की गई है और macOS (Apple Silicon और Intel) के साथ-साथ Vulkan बिल्ड सहित Ubuntu के कई लक्ष्यों के लिए पहले से तैयार बाइनरी शामिल की गई हैं।
यह क्यों मायने रखता है
डेवलपर OpenCL-संगत GPU पर LLaMA मॉडल तेज़ी से चला सकते हैं, जिससे स्थानीय स्तर पर इन्फ़रेंस करना अधिक व्यावहारिक हो जाता है।
