ggml-org टीम ने llama.cpp का संस्करण b11471 जारी किया है। इसमें मॉडल की वोकैबुलरी में 30090 नए plamo fim टोकन जोड़े गए हैं। इस रिलीज़ में macOS Apple Silicon, macOS Intel, iOS और Linux के कई बिल्ड (CPU, Vulkan, CUDA 12.8) के लिए सीधे चलाए जा सकने वाले बाइनरी भी उपलब्ध हैं। उपयोगकर्ता GitHub के रिलीज़ पेज से अपने लिए उपयुक्त पैकेज डाउनलोड कर सकते हैं।
यह क्यों मायने रखता है
डेवलपर अब सोर्स कोड से बिल्ड किए बिना अधिक डिवाइस पर स्थानीय रूप से llama.cpp चला सकते हैं। इससे समय बचता है और टेस्टिंग आसान होती है।
