Oossa

llama.cpp अपडेट अब व्यस्त स्लॉट को ओवरराइट नहीं करेगा

Oct 10, 2026 की रिलीज़ में उस बग को ठीक किया गया है, जिसमें नया अनुरोध प्रॉम्प्ट कैश बदलकर पहले से चल रही जनरेशन को बिगाड़ सकता था।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

llama.cpp प्रोजेक्ट ने 2026‑10‑10 को संस्करण b11552 जारी किया। इस बदलाव से कोई अनुरोध ऐसे स्लॉट का प्रॉम्प्ट कैश अपडेट नहीं कर पाएगा जो पहले से व्यस्त है। पहले, व्यस्त स्लॉट ओवरराइट हो जाता था और जनरेशन गलत संदर्भ के साथ आगे बढ़ती थी। अब व्यस्त स्लॉट जस का तस लौटाया जाता है और नया अनुरोध स्लॉट खाली होने तक इंतज़ार करता है।

यह क्यों मायने रखता है

llama.cpp इस्तेमाल करने वाले डेवलपरों को एक ही GPU मेमोरी साझा करने वाले कई अनुरोधों के दौरान जनरेशन में कम गड़बड़ियां देखने को मिलेंगी।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।