# llama.cpp में Hexagon NPU के लिए Q1_0 और Q2_0 क्वांटाइज़ेशन सपोर्ट

> ओपन-सोर्स LLM रनटाइम अब नए लो-बिट फ़ॉर्मैट के साथ Snapdragon चिप्स पर अधिक कुशलता से चलता है।

Oossa · 2026-10-17 · https://oossa.com/hi/llama-cpp-adds-q1-0-and-q2-0-quant-support-for-hexagon-npu

llama.cpp प्रोजेक्ट ने नया संस्करण जारी किया है, जिसमें Qualcomm के Hexagon NPU के लिए Q1_0 और Q2_0 क्वांटाइज़ेशन जोड़ा गया है। अपडेट में ओवरहेड कम करने के लिए टाइलिंग और वेक्टर डॉट ऑपरेशंस में भी बदलाव किए गए हैं। यह Linux और Windows के उन बिल्ड पर काम करता है जो Snapdragon CPUs, Adreno GPUs और Hexagon NPUs को लक्षित करते हैं, साथ ही अन्य प्लेटफ़ॉर्म पर भी। इन बदलावों का विवरण डेवलपर गाइड में दिया गया है और रिलीज़ अटेस्टेशन पर हस्ताक्षर किए गए हैं।

## तथ्य

- रिलीज़ की तारीख: 2026‑10‑17 ("Sat Oct 17 2026 23:11:34 GMT+0200")
- Hexagon NPU के लिए Q1_0 और Q2_0 लो-बिट फ़ॉर्मैट जोड़े गए हैं

## यह क्यों मायने रखता है

डेवलपर अब Snapdragon-आधारित फोन और टैबलेट पर बड़े लैंग्वेज मॉडल कम लेटेंसी और कम बिजली खपत के साथ चला सकते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11716](https://github.com/ggml-org/llama.cpp/releases/tag/b11716) – llama.cpp, 2026-10-17
2. [ggml-org/llama.cpp b11717](https://github.com/ggml-org/llama.cpp/releases/tag/b11717) – llama.cpp, 2026-10-18

अंतिम अपडेट: 2026-10-18