ggml‑org टीम ने llama.cpp का संस्करण b11827 जारी किया। इस अपडेट में OpenCL depthwise conv2d kernels जोड़े गए हैं, जिनमें Qualcomm Adreno GPUs का सपोर्ट भी शामिल है। अब macOS Apple Silicon, macOS Intel, iOS और Ubuntu के कई प्लेटफ़ॉर्म (CPU और Vulkan) के लिए पहले से बने binaries उपलब्ध हैं। ये बदलाव OpenCode और Qualcomm के इंजीनियर Li He ने किए हैं।
यह क्यों मायने रखता है
अब डेवलपर OpenCL GPUs वाले डिवाइसों पर llama.cpp मॉडल तेज़ी से चला सकते हैं, जिससे कम बिजली खपत वाले हार्डवेयर के विकल्प बढ़ते हैं।
