ggml‑org ने llama.cpp का संस्करण b11556 जारी किया है। इस अपडेट में Prism Bonsai 2 27B मॉडल को चलाने का सपोर्ट जोड़ा गया है। Hadamard टेंसर हैंडलिंग की समस्या भी ठीक की गई है और कन्वर्ज़न कोड को साफ़-सुथरा बनाया गया है। पहले से तैयार बाइनरी macOS (Apple Silicon और Intel) और Ubuntu (x64, arm64, s390x) के लिए उपलब्ध हैं।
यह क्यों मायने रखता है
डेवलपर अब 27 अरब पैरामीटर वाले बड़े Prism Bonsai 2 मॉडल को अपनी मशीनों पर स्थानीय रूप से चला सकते हैं।