ggml‑org टीम ने 21 अक्टूबर 2026 को llama.cpp का संस्करण b11799 जारी किया। इस अपडेट में q8 फास्ट डी-क्वांटाइज़ेशन के लिए SYCL इम्प्लीमेंटेशन जोड़ा गया है (pull #30775)। इसके साथ Apple Silicon, Intel Mac और iOS के लिए प्री-बिल्ट बाइनरी भी उपलब्ध हैं। Ubuntu के कई कॉन्फ़िगरेशन के लिए भी बाइनरी दिए गए हैं, जिनमें Vulkan और CUDA 12.8 शामिल हैं।
यह क्यों मायने रखता है
अब डेवलपर संगत GPU पर तेज़ SYCL डी-क्वांट के साथ llama.cpp चला सकते हैं। इससे स्थानीय तौर पर LLM चलाने के लिए हार्डवेयर के विकल्प बढ़ते हैं।
