Oossa

llama.cpp का नया संस्करण b11465 जारी

ओपन-सोर्स LLM इन्फ़रेंस लाइब्रेरी में Apple Silicon, Intel macOS और Ubuntu के कई कॉन्फ़िगरेशन के लिए नए बिल्ड शामिल हैं।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml-org टीम ने llama.cpp संस्करण b11465 जारी किया है। इसमें macOS Apple Silicon (arm64), macOS Intel (x64), iOS और Ubuntu के कई रूपों (CPU, Vulkan और CUDA 12.8) के लिए पहले से तैयार बाइनरी शामिल हैं। इस रिलीज़ में रिकरेंट रोलबैक की जाँच के दौरान एंकर को बनाए रखने के लिए एक टेस्ट बदलाव भी किया गया है। सभी फ़ाइलें GitHub के रिलीज़ पेज से डाउनलोड की जा सकती हैं।

यह क्यों मायने रखता है

डेवलपर अब कोड को खुद कंपाइल किए बिना ज़्यादा तरह के हार्डवेयर पर स्थानीय रूप से LLM चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।