ggml-org टीम ने llama.cpp का संस्करण b11806 जारी किया। इसमें prism.hadamard फोल्डेड वेट के लिए LoRA सपोर्ट जोड़ा गया है—यह अधिक कुशल फाइन-ट्यूनिंग की तकनीक है। इस रिलीज़ में Apple Silicon, Intel Mac और iOS के लिए प्री-बिल्ट बाइनरी भी शामिल हैं। Linux के लिए CPU, Vulkan और CUDA समेत कई बिल्ड उपलब्ध हैं। उपयोगकर्ता GitHub रिलीज़ पेज से अपने लिए सही पैकेज डाउनलोड कर सकते हैं।
यह क्यों मायने रखता है
डेवलपर अब कोड को खुद बिल्ड किए बिना, ज़्यादा प्लेटफ़ॉर्म पर LoRA-फाइन-ट्यून किए गए मॉडल तेज़ी से चला सकते हैं।
