ओपन-सोर्स llama.cpp लाइब्रेरी का b11500 संस्करण जारी हो गया है। इसमें macOS Apple Silicon, macOS Intel, iOS और Ubuntu के कई बिल्ड (CPU, Vulkan और CUDA) के लिए सीधे चलाए जा सकने वाले बाइनरी दिए गए हैं। अपडेट में मेमोरी हैंडलिंग से जुड़ा एक लो-लेवल बग (hex-mmadd) भी ठीक किया गया है। फ़ाइलें GitHub के रिलीज़ पेज से डाउनलोड की जा सकती हैं।
यह क्यों मायने रखता है
अब डेवलपर खुद बिल्ड किए बिना ज़्यादा डिवाइस पर llama.cpp स्थानीय रूप से चला सकते हैं।