Oossa

llama.cpp b11493 में grouped MoE XMX GEMM का समर्थन

ओपन-सोर्स llama.cpp का संस्करण b11493 8 Oct 2026 को जारी हुआ। इसमें SYCL-आधारित grouped MoE XMX GEMM ऑपरेशन और कई प्लेटफ़ॉर्म के लिए बाइनरी शामिल हैं।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml-org टीम ने 8 Oct 2026 को llama.cpp का संस्करण b11493 जारी किया। इस अपडेट में grouped Mixture-of-Experts (MoE) XMX GEMM का SYCL कार्यान्वयन जोड़ा गया है। यह बड़े भाषा मॉडल में इस्तेमाल होने वाला मैट्रिक्स गुणन ऑपरेशन है। रिलीज़ में macOS, iOS और Ubuntu (CPU, Vulkan और CUDA) के लिए पहले से बनी बाइनरी भी शामिल हैं।

यह क्यों मायने रखता है

अब डेवलपर SYCL-संगत GPU पर MoE-आधारित मॉडल चला सकते हैं, जिससे ओपन-सोर्स LLM वर्कलोड के लिए हार्डवेयर के विकल्प बढ़ते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।