Oossa

llama.cpp b11688 में CPU AVX2 की गति बढ़ाने वाला बदलाव

ओपन-सोर्स llama.cpp लाइब्रेरी के नए बाइनरी में AVX2 टाइल्ड एक्यूमुलेटर घटाए गए हैं, जिससे CPU पर प्रदर्शन बेहतर होता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org टीम ने 2026-10-16 को llama.cpp का b11688 संस्करण जारी किया। इस अपडेट में सिर्फ CPU के लिए एक बदलाव है: AVX2 टाइल्ड एक्यूमुलेटर घटाए गए हैं। परियोजना के मुताबिक, इस बदलाव से इन्फरेंस की गति बढ़ती है। अलग-अलग हार्डवेयर के लिए macOS, iOS, Linux, Vulkan और CUDA के प्री-बिल्ट बाइनरी उपलब्ध कराए गए हैं। इस बदलाव को OpenAI के कोड जनरेशन मॉडल Codex की मदद से तैयार किया गया बताया गया है।

यह क्यों मायने रखता है

डेवलपर कोड दोबारा बिल्ड किए बिना AVX2 CPU पर llama.cpp मॉडल तेज़ी से चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।