# llama.cpp b11713 में CUDA पर कम-बिट प्रोसेसिंग तेज़

> ओपन-सोर्स llama.cpp लाइब्रेरी का संस्करण b11713, 17 Oct, 2026 को जारी हुआ। इसमें CUDA GPU पर कम-बिट मैट्रिक्स-वेक्टर ऑपरेशन तेज़ किए गए हैं और नए बाइनरी बिल्ड उपलब्ध कराए गए हैं।

Oossa · 2026-10-17 · https://oossa.com/hi/llama-cpp-release-b11713-adds-faster-low-bit-cuda-support

ggml‑org टीम ने 17 Oct, 2026 को llama.cpp का संस्करण b11713 जारी किया। इस अपडेट में तेज़ MMVQ एल्गोरिदम के इस्तेमाल से कम-बिट टाइप के लिए CUDA परफॉर्मेंस बेहतर हुई है। इसमें Q3_K और Q6_K क्वांटाइज़ेशन पर HIP (AMD) GPU के लिए एक छोटा सुधार भी शामिल है। macOS, iOS और Ubuntu के कई टार्गेट (CPU, Vulkan, CUDA) के लिए पहले से बने बाइनरी अब डाउनलोड के लिए उपलब्ध हैं।

## तथ्य

- रिलीज़ की तारीख: 17 Oct, 2026 ("Sat Oct 17 2026 18:00:52 GMT+0200")
- कम-बिट टाइप के लिए तेज़ CUDA MMVQ जोड़ा गया (#30517)

## यह क्यों मायने रखता है

डेवलपर NVIDIA GPU पर क्वांटाइज़्ड LLM तेज़ी से चला सकते हैं, जिससे लोकल AI ऐप्लिकेशन में इन्फरेंस की लागत घट सकती है।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11713](https://github.com/ggml-org/llama.cpp/releases/tag/b11713) – llama.cpp, 2026-10-17

अंतिम अपडेट: 2026-10-17