# llama.cpp में क्वांटाइज़्ड मॉडल के लिए OpenCL DP4A कर्नेल

> ओपन-सोर्स LLaMA इन्फ़रेंस लाइब्रेरी में अब q4_0, q4_k और q6_k फ़ॉर्मैट के लिए cooperative‑k DP4A GEMM सपोर्ट शामिल है।

Oossa · 2026-10-19 · https://oossa.com/hi/llama-cpp-adds-opencl-dp4a-kernels-for-quantized-models

ggml‑org/llama.cpp प्रोजेक्ट ने 2026‑10‑19 को b11741 संस्करण जारी किया। इसमें नए OpenCL कर्नेल जोड़े गए हैं, जो तीन क्वांटाइज़्ड फ़ॉर्मैट (q4_0, q4_k, q6_k) के लिए मैट्रिक्स गुणा तेज़ करने हेतु DP4A निर्देशों का इस्तेमाल करते हैं। इस अपडेट में अलाइनमेंट से जुड़ी एक समस्या भी ठीक की गई है और macOS (Apple Silicon और Intel) के साथ-साथ Vulkan बिल्ड सहित Ubuntu के कई लक्ष्यों के लिए पहले से तैयार बाइनरी शामिल की गई हैं।

## तथ्य

- b11741 संस्करण 2026‑10‑19 को जारी किया गया
- q4_0, q4_k और q6_k के लिए cooperative‑k DP4A GEMM जोड़ा गया

## यह क्यों मायने रखता है

डेवलपर OpenCL-संगत GPU पर LLaMA मॉडल तेज़ी से चला सकते हैं, जिससे स्थानीय स्तर पर इन्फ़रेंस करना अधिक व्यावहारिक हो जाता है।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11741](https://github.com/ggml-org/llama.cpp/releases/tag/b11741) – llama.cpp, 2026-10-19

अंतिम अपडेट: 2026-10-19