Oossa

llama.cpp में 7-वाइड SSM कन्वोल्यूशन के लिए CUDA कर्नेल

ggml-org/llama.cpp v b11770 में SSM कन्वोल्यूशन के लिए नया CUDA कर्नेल जोड़ा गया है। macOS, iOS और Linux के लिए नए बाइनरी भी उपलब्ध हैं।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ओपन-सोर्स llama.cpp लाइब्रेरी का b11770 संस्करण 21 Oct 2026 को जारी हुआ। इस अपडेट में 7-वाइड SSM (स्टेट-स्पेस मॉडल) कन्वोल्यूशन को सपोर्ट करने वाला CUDA कर्नेल जोड़ा गया है। Apple Silicon, Intel macOS, iOS और Ubuntu के कई बिल्ड के लिए अब नए प्री-बिल्ट बाइनरी उपलब्ध हैं। इनमें CPU, Vulkan और CUDA 12.8 वाले संस्करण शामिल हैं।

यह क्यों मायने रखता है

नए कर्नेल की मदद से डेवलपर Nvidia GPU पर बड़े SSM-आधारित मॉडल तेज़ी से चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।