# llama.cpp में Apple और Linux के लिए नए Q8_0 और i8mm कर्नेल

> ओपन-सोर्स LLaMA इन्फरेंस लाइब्रेरी में ARM SVE और i8mm के लिए तेज़ क्वांटाइज़्ड कर्नेल जोड़े गए हैं। macOS, iOS और Ubuntu के लिए नए बाइनरी भी उपलब्ध हैं।

Oossa · 2026-10-22 · https://oossa.com/hi/llama-cpp-adds-new-q8-0-and-i8mm-kernels-for-apple-and-linux

llama.cpp प्रोजेक्ट ने 22 अक्तूबर 2026 को b11811 संस्करण जारी किया। इस अपडेट में Q8_0 SVE dot-product GEMV और SVE i8mm GEMM कर्नेल जोड़े गए हैं, जो ARM CPU पर क्वांटाइज़्ड मॉडल के इन्फरेंस को तेज़ करते हैं। macOS Apple Silicon, Intel, iOS और Ubuntu के कई बिल्ड (CPU, Vulkan, CUDA 12.8) के लिए पहले से तैयार बाइनरी अब डाउनलोड के लिए उपलब्ध हैं।

## तथ्य

- b11811 संस्करण 22 अक्तूबर 2026 को जारी हुआ
- नए कर्नेल: Q8_0 SVE dot-product GEMV और SVE i8mm GEMM

## यह क्यों मायने रखता है

डेवलपर नए ARM हार्डवेयर और Linux GPU पर बिना कस्टम कोड लिखे LLaMA मॉडल तेज़ी से चला सकते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11811](https://github.com/ggml-org/llama.cpp/releases/tag/b11811) – llama.cpp, 2026-10-22

अंतिम अपडेट: 2026-10-22