# llama.cpp में CUDA और HIP के लिए chunked GDN kernel

> 15 Oct 2026 के b11632 रिलीज़ में CUDA और HIP के लिए chunked GDN kernel जोड़ा गया है। साथ ही, RTX 3090 और RTX 4090 GPU पर SM86/SM89 सक्षम किए गए हैं।

Oossa · 2026-10-15 · https://oossa.com/hi/llama-cpp-adds-chunked-gdn-kernel-for-cuda-and-hip

ओपन-सोर्स llama.cpp लाइब्रेरी का b11632 संस्करण 15 Oct 2026 को जारी हुआ। इसमें CUDA और HIP, दोनों के लिए chunked GDN (Gaussian-Diffusion-Normalization) kernel जोड़ा गया है, जिससे GPU सपोर्ट बेहतर हुआ है। correctness और prefill benchmarks के बाद, इस अपडेट में RTX 3090 और RTX 4090 समेत जांचे गए Ampere और Ada GPU पर SM86 और SM89 instruction sets सक्षम किए गए हैं। पुराने builds के लिए भी सुधार किए गए हैं और GDN MMA (matrix-multiply-accumulate) चरण में अब refactored swizzle API का इस्तेमाल होता है।

## तथ्य

- b11632 रिलीज़ 15 Oct 2026 को प्रकाशित हुआ
- CUDA और HIP के लिए chunked GDN kernel जोड़ा गया; RTX 3090 और RTX 4090 पर SM86/SM89 सक्षम किए गए

## यह क्यों मायने रखता है

डेवलपर नए Nvidia GPU पर llama.cpp के ज़रिए तेज़ और अधिक भरोसेमंद inference कर सकते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11632](https://github.com/ggml-org/llama.cpp/releases/tag/b11632) – llama.cpp, 2026-10-15

अंतिम अपडेट: 2026-10-15