ggml-org टीम ने 2026-10-22 को llama.cpp का वर्ज़न b11819 जारी किया। अपडेट में गैर-मानक GQA (grouped query attention) मॉडल और BPE (byte-pair-encoding) टोकनाइज़र का समर्थन जोड़ा गया है। साथ ही, नया domyn-small pre-type और Metaspace prepend स्कीम के लिए मेटाडेटा हैंडलिंग भी शामिल है। बिल्ड मैट्रिक्स में अब Apple Silicon, CUDA 12/13, Vulkan, ROCm और Android Snapdragon समेत कई CPU और GPU टारगेट शामिल हैं।
यह क्यों मायने रखता है
डेवलपर अब GQA का इस्तेमाल करने वाले मॉडल समेत LLM की ज़्यादा किस्में स्मार्टफ़ोन और GPU जैसे कई डिवाइस पर चला सकते हैं।
