Oossa

llama.cpp b11784 में Sycl iq3 क्रैश की समस्या ठीक

ओपन-सोर्स LLM रनर llama.cpp के b11784 अपडेट में Sycl iq3 क्रैश ठीक किया गया है। macOS, iOS, Linux और CUDA के लिए नए बिल्ड भी उपलब्ध हैं।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org टीम ने llama.cpp का b11784 संस्करण जारी किया है। इसमें Sycl iq3 बैकएंड में होने वाले क्रैश को ठीक किया गया है। इस रिलीज़ में Apple Silicon, Intel Macs और iOS के लिए प्री-बिल्ट बाइनरी उपलब्ध हैं। Ubuntu के कई कॉन्फ़िगरेशन के लिए भी बाइनरी दी गई हैं, जिनमें Vulkan और CUDA 12.8 शामिल हैं। इन्हें GitHub रिलीज़ पेज से डाउनलोड किया जा सकता है।

यह क्यों मायने रखता है

डेवलपर अब बिना क्रैश की समस्या के अधिक तरह के हार्डवेयर पर llama.cpp चला सकते हैं, जिससे स्थानीय LLM इन्फ़रेंस का दायरा बढ़ता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।