Oossa

llama.cpp में macOS के लिए Metal flash-attention kernels

ओपन-सोर्स LLM रनटाइम ने 9 अक्टूबर 2026 को Apple Silicon के लिए 128/96 flash-attention सपोर्ट वाले नए बाइनरी जारी किए।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml-org टीम ने 9 अक्टूबर 2026 को llama.cpp (रिलीज़ b11518) अपडेट किया। इस अपडेट में Metal के लिए 128-bit और 96-bit flash-attention kernels जोड़े गए हैं, जिससे Apple Silicon Mac पर इन्फ़रेंस तेज़ होता है। macOS (arm64), macOS Intel, iOS और Linux के कई कॉन्फ़िगरेशन के लिए पहले से तैयार बाइनरी डाउनलोड के लिए उपलब्ध हैं।

यह क्यों मायने रखता है

Apple Silicon इस्तेमाल करने वाले लोग अतिरिक्त GPU हार्डवेयर खरीदे बिना LLM तेज़ी से चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।