llama.cpp प्रोजेक्ट ने 17 Oct, 2026 को संस्करण b11703 जारी किया। इसमें vectorised softplus फ़ंक्शन जोड़ा गया है, जो Qualcomm के Hexagon NPU (HVX) पर चलता है। यह नया फ़ंक्शन exp और log के लिए पहले से मौजूद Hexagon primitives का इस्तेमाल करता है, इसलिए गणित CPU संस्करण जैसा ही रहता है। यह बदलाव Android arm64 बिल्ड के तहत दर्ज है, जो Snapdragon CPU, Adreno GPU और Hexagon NPU को सपोर्ट करता है।
यह क्यों मायने रखता है
अब डेवलपर Hexagon NPU वाले फ़ोन पर LLM inference तेज़ी से चला सकते हैं, जिससे llama.cpp के कम बिजली खपत वाले इस्तेमाल के विकल्प बढ़ते हैं।
