llama.cpp प्रोजेक्ट ने 2026‑10‑10 को संस्करण b11552 जारी किया। इस बदलाव से कोई अनुरोध ऐसे स्लॉट का प्रॉम्प्ट कैश अपडेट नहीं कर पाएगा जो पहले से व्यस्त है। पहले, व्यस्त स्लॉट ओवरराइट हो जाता था और जनरेशन गलत संदर्भ के साथ आगे बढ़ती थी। अब व्यस्त स्लॉट जस का तस लौटाया जाता है और नया अनुरोध स्लॉट खाली होने तक इंतज़ार करता है।
यह क्यों मायने रखता है
llama.cpp इस्तेमाल करने वाले डेवलपरों को एक ही GPU मेमोरी साझा करने वाले कई अनुरोधों के दौरान जनरेशन में कम गड़बड़ियां देखने को मिलेंगी।