Oossa

llama.cpp अपडेट से MoE रूटिंग शोर घटा, Apple डिवाइस की पहचान साफ़

Oct 20, 2026 के रिलीज़ में MoE राउटर की स्कोरिंग बदली गई है और Apple Silicon पर CPU व GPU के नामों का फर्क स्पष्ट किया गया है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

llama.cpp लाइब्रेरी का नया संस्करण Oct 20, 2026 को जारी हुआ। इसमें Mixture-of-Experts (MoE) राउटर को बदला गया है, ताकि विशेषज्ञों का चयन अब बैकएंड के रैंडम शोर पर निर्भर न रहे। इस सुधार में हर विशेषज्ञ के लिए अलग स्कोर रेंज तय की गई है, जिससे आउटपुट में अंतर 4e‑3 से घटकर 5e‑7 से कम हो गया है। इस अपडेट में टेस्ट टेबल में Apple डिवाइस का वास्तविक नाम (जैसे, M2 Ultra) भी जोड़ा गया है, जिससे CPU और GPU के नतीजों में फर्क करना आसान होगा।

यह क्यों मायने रखता है

Apple Silicon पर llama.cpp इस्तेमाल करने वाले डेवलपर अब मॉडल के अधिक एकसमान आउटपुट और प्रदर्शन की अधिक स्पष्ट रिपोर्ट देख सकेंगे।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।