Oossa

llama.cpp के नए प्री-रिलीज़ में तेज़ हुआ शब्दावली लोड होना

ओपन-सोर्स Llama.cpp लाइब्रेरी ने 21 Oct 2026 को प्री-रिलीज़ जारी किया, जो मॉडल की शब्दावलियों को तेज़ी से लोड करता है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

llama.cpp प्रोजेक्ट ने 21 Oct 2026 को प्री-रिलीज़ संस्करण b11793 प्रकाशित किया। इस अपडेट में लाइब्रेरी के शब्दावली लोड करने के तरीके को बेहतर बनाया गया है, जिससे बड़े भाषा मॉडल तेज़ी से शुरू होते हैं। इसमें कुछ छोटे सुधार भी किए गए हैं और GGUF की-वैल्यू पेयर को कन्वर्ट करते समय जगह सुरक्षित रखी जाती है। यह बिल्ड macOS Apple Silicon से लेकर CUDA 13.4 वाले Windows तक कई प्लेटफ़ॉर्म को सपोर्ट करता है। बदलावों पर सत्यापित GitHub GPG key से हस्ताक्षर किए गए हैं।

यह क्यों मायने रखता है

डेवलपर Llama मॉडल तेज़ी से चला सकते हैं, खासकर उन डिवाइसों पर जहां लोड होने में लगने वाला समय बाधा बनता था।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।