Oossa

llama.cpp में Prism Bonsai 2 27B मॉडल का सपोर्ट जुड़ा

ओपन-सोर्स llama.cpp लाइब्रेरी (v b11556) अब macOS और Linux पर 27 अरब पैरामीटर वाला Prism Bonsai 2 मॉडल चला सकती है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml‑org ने llama.cpp का संस्करण b11556 जारी किया है। इस अपडेट में Prism Bonsai 2 27B मॉडल को चलाने का सपोर्ट जोड़ा गया है। Hadamard टेंसर हैंडलिंग की समस्या भी ठीक की गई है और कन्वर्ज़न कोड को साफ़-सुथरा बनाया गया है। पहले से तैयार बाइनरी macOS (Apple Silicon और Intel) और Ubuntu (x64, arm64, s390x) के लिए उपलब्ध हैं।

यह क्यों मायने रखता है

डेवलपर अब 27 अरब पैरामीटर वाले बड़े Prism Bonsai 2 मॉडल को अपनी मशीनों पर स्थानीय रूप से चला सकते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।