ggml‑org टीम ने Oct 21 2026 को llama.cpp का b11790 वर्ज़न जारी किया। इस अपडेट में Q4_0 quantization के लिए NEON-वेक्टराइज़्ड repack और अन्य प्रकारों के लिए थ्रेडिंग जोड़ी गई है, जिससे ARM CPUs पर प्रदर्शन बेहतर होता है। macOS Apple Silicon, iOS और Linux के विभिन्न ARM बिल्ड के लिए पहले से तैयार बाइनरी अब उपलब्ध हैं। इन बदलावों को Qualcomm के एक इंजीनियर ने सह-लेखक के तौर पर तैयार किया। इस रिलीज़ में Linux x64 और arm64 के लिए Vulkan बिल्ड भी शामिल हैं।
यह क्यों मायने रखता है
ARM-आधारित लैपटॉप और फोन पर Llama मॉडल तेज़ी से चल सकेंगे, जिससे डिवाइस पर ही AI का इस्तेमाल अधिक व्यावहारिक होगा।