ओपन-सोर्स llama.cpp लाइब्रेरी का b11632 संस्करण 15 Oct 2026 को जारी हुआ। इसमें CUDA और HIP, दोनों के लिए chunked GDN (Gaussian-Diffusion-Normalization) kernel जोड़ा गया है, जिससे GPU सपोर्ट बेहतर हुआ है। correctness और prefill benchmarks के बाद, इस अपडेट में RTX 3090 और RTX 4090 समेत जांचे गए Ampere और Ada GPU पर SM86 और SM89 instruction sets सक्षम किए गए हैं। पुराने builds के लिए भी सुधार किए गए हैं और GDN MMA (matrix-multiply-accumulate) चरण में अब refactored swizzle API का इस्तेमाल होता है।
यह क्यों मायने रखता है
डेवलपर नए Nvidia GPU पर llama.cpp के ज़रिए तेज़ और अधिक भरोसेमंद inference कर सकते हैं।
