ggml-org llama.cpp प्रोजेक्ट ने 2026-10-21 को b11800 संस्करण जारी किया। अपडेट में fused top-k mask ऑपरेशन (ggml_top_k_mask) जोड़ा गया है, जिसका इस्तेमाल QSA, DSA और DeepSeek V4 CSA मॉडल कर सकते हैं। यह ऑपरेशन हाथ से लिखे masking कोड की जगह एक ही node का इस्तेमाल करता है, जो चुने नहीं गए cells को –inf पर सेट करता है। यह हर head पर काम करता है और वैकल्पिक scores, block sizes और अतिरिक्त cells को संभाल सकता है।
यह क्यों मायने रखता है
डेवलपर समर्थित मॉडल तेज़ी से चला सकते हैं, क्योंकि अब लाइब्रेरी masking को एक ही ऑप्टिमाइज़्ड चरण में संभालती है।
