Oossa

llama.cpp अपडेट में host tensor view और K2 Horizon सपोर्ट बहाल

Oct 9, 2026 के रिलीज़ में KV-cache split के दौरान होने वाला क्रैश ठीक किया गया है और K2 Horizon हार्डवेयर का सपोर्ट लौट आया है।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

ggml-org टीम ने 2026-10-09 को llama.cpp version b11528 जारी किया। इस अपडेट से लाइब्रेरी, host-allocated tensors के views को सामान्य nodes की तरह मान सकती है। इससे –split-mode tensor विकल्प के साथ आने वाली पुरानी assert error रुक जाती है। अपडेट में K2 Horizon accelerator के लिए SM tensor सपोर्ट भी बहाल किया गया है। यह बदलाव आधिकारिक GitHub रिलीज़ में शामिल है और macOS से लेकर Windows और Linux तक, सूचीबद्ध सभी platforms पर लागू होता है।

यह क्यों मायने रखता है

डेवलपर अब ज़्यादा हार्डवेयर पर split-mode KV caching के साथ llama.cpp चला सकते हैं और क्रैश से बच सकते हैं। इससे स्थानीय LLM inference के लिए इस्तेमाल किए जा सकने वाले कॉन्फ़िगरेशन बढ़ते हैं।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।