ggml-org टीम ने llama.cpp का रिलीज़ b11277 प्रकाशित किया। इसमें बफर रीसेट से जुड़ी उस समस्या को ठीक किया गया है, जिससे मेमोरी लीक होती थी। अपडेट में macOS (Apple Silicon और Intel), iOS और Ubuntu के कई वेरिएंट के लिए पहले से बने बाइनरी भी शामिल हैं। इनमें Vulkan और CUDA GPU के विकल्प भी हैं। उपयोगकर्ता रिलीज़ पेज से फ़ाइलें सीधे डाउनलोड कर सकते हैं।
यह क्यों मायने रखता है
मेमोरी लीक ठीक होने से स्थानीय स्तर पर LLM चलाने वाले डेवलपरों के लिए स्थिरता बेहतर होती है। पहले से तैयार बाइनरी के चलते अधिक प्लेटफ़ॉर्म पर llama.cpp आज़माना भी आसान हो जाता है।
