ggml‑org ने 2026‑10‑22 को llama.cpp का b11804 संस्करण जारी किया। इस अपडेट में OpenCL रूटीन जोड़ा गया है, जो 32-बिट फ्लोट से 32-बिट इंटीजर के लिए argmax निकालता है। इससे GPU पर इन्फरेंस की रफ्तार बेहतर होती है। इसमें Apple Silicon, Intel macOS, iOS और Ubuntu के कई संस्करणों (CPU, Vulkan, CUDA) के लिए नए प्री-बिल्ट बाइनरी भी शामिल हैं। ये बदलाव OpenCode और Qualcomm के Li He ने किए हैं।
यह क्यों मायने रखता है
अब डेवलपर OpenCL-संगत GPU पर llama.cpp मॉडल तेज़ी से चला सकते हैं, जिससे शौकिया AI प्रोजेक्ट्स के लिए हार्डवेयर के विकल्प बढ़ते हैं।
