Oossa

llama.cpp b11755 में 9-एक्सपर्ट टोकन के लिए नया MoE कर्नेल

ओपन-सोर्स llama.cpp ने 20 अक्टूबर 2026 को b11755 जारी किया। इसमें mixture-of-experts मॉडल के लिए ज़रूरी Metal GPU कर्नेल की कमी दूर की गई है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org/llama.cpp लाइब्रेरी ने 20 अक्टूबर 2026 को b11755 संस्करण जारी किया। इस अपडेट में Metal कर्नेल का वह वेरिएंट जोड़ा गया है जो mixture-of-experts (MoE) मॉडल में हर टोकन के लिए नौ एक्सपर्ट का समर्थन करता है। macOS (Apple Silicon और Intel), iOS और Ubuntu के कई बिल्ड (CPU, Vulkan, CUDA 12) के बाइनरी अब डाउनलोड के लिए उपलब्ध हैं।

यह क्यों मायने रखता है

अब डेवलपर Apple Silicon GPU पर MoE-आधारित LLM चला सकते हैं, जिससे macOS डिवाइसों पर मॉडल के विकल्प बढ़ेंगे।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।