# llama.cpp ने प्रॉम्प्ट कैश को संभालने का तरीका बेहतर किया

> नए रिलीज़ में सर्वर RAM में सिर्फ़ दोबारा इस्तेमाल किए जा सकने वाले स्लॉट रखेगा। इससे कुछ तरह के कामों में बेकार की मेमोरी खपत घटेगी।

Oossa · 2026-10-15 · https://oossa.com/hi/llama-cpp-adds-smarter-prompt-cache-handling

llama.cpp प्रोजेक्ट ने 2026-10-15 को संस्करण b11642 जारी किया। इसमें सर्वर के प्रॉम्प्ट-कैश स्लॉट रखने का तरीका बदला गया है। अब सिर्फ़ वे स्लॉट सहेजे जाते हैं जिन्हें बाद में फिर से बहाल किया जा सकता है। इसलिए rerank, embedding, decision और infill कामों के खाली स्लॉट अब कैश नहीं भरेंगे। --cache-ram फ़्लैग इस्तेमाल न किए जाने पर decision काम अब कैश का इस्तेमाल ही नहीं करेंगे। इससे RAM की खपत घटती है और कैश में गैरज़रूरी बदलावों से बचा जा सकता है।

## तथ्य

- रिलीज़ संस्करण b11642 गुरुवार, 15 अक्टूबर 2026 को प्रकाशित हुआ
- --cache-ram न दिए जाने पर decision काम प्रॉम्प्ट कैश का इस्तेमाल नहीं करते

## यह क्यों मायने रखता है

सीमित हार्डवेयर पर llama.cpp चलाने वाले डेवलपर कम मेमोरी खपत और कैश से जुड़ी धीमी गति की कम समस्याएं देखेंगे।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11642](https://github.com/ggml-org/llama.cpp/releases/tag/b11642) – llama.cpp, 2026-10-15

अंतिम अपडेट: 2026-10-15