ggml‑org टीम ने llama.cpp का b11487 संस्करण जारी किया है। इसमें Hexagon प्रोसेसर के लिए tiled Q4_K और Q6_K GET_ROWS सपोर्ट जोड़ा गया है और Q4_K views को संभालने की क्षमता बेहतर की गई है। Apple Silicon, Intel macOS, iOS और Ubuntu के कई बिल्ड (CPU और Vulkan) के लिए पहले से बने बाइनरी दिए गए हैं। यह अपडेट GitHub के रिलीज़ पेज से डाउनलोड किया जा सकता है।
यह क्यों मायने रखता है
डेवलपर अब Qualcomm चिप जैसे Hexagon-आधारित डिवाइसों पर Llama मॉडल अधिक कुशलता से चला सकते हैं। इससे समर्थित मोबाइल और एम्बेडेड हार्डवेयर पर प्रदर्शन बेहतर हो सकता है।
