# llama.cpp अपडेट में pooled embeddings के लिए LM head छोड़ा गया

> 13 अक्तूबर 2026 की रिलीज़ में ग्राफ़ में ऐसे बदलाव किए गए हैं, जिनसे केवल pooled embeddings की ज़रूरत होने पर अनावश्यक LM-head गणनाएँ नहीं होतीं।

Oossa · 2026-10-13 · https://oossa.com/hi/llama-cpp-update-skips-lm-head-for-pooled-embeddings

ggml-org द्वारा मेंटेन की जाने वाली llama.cpp लाइब्रेरी का संस्करण b11597, 13 अक्तूबर 2026 को जारी हुआ। इस अपडेट में कंप्यूटेशन ग्राफ़ बदला गया है, ताकि जब किसी context से pooled embeddings निकाले जाएँ, तो मॉडल अब बड़ा LM-head logits layer न बनाए। इससे मेमोरी का इस्तेमाल घटता है और केवल embeddings वाले कामों के लिए inference तेज़ होता है। आकार एक-जैसा बनाए रखने के लिए इससे जुड़े ग्राफ़ नोड्स में भी बदलाव किया गया है।

## तथ्य

- रिलीज़ टैग b11597 मंगलवार, 13 अक्तूबर 2026 को प्रकाशित हुआ
- अब pooling type NONE न होने पर ग्राफ़ LM-head logits को छोड़ देता है

## यह क्यों मायने रखता है

Embeddings निकालने वाले डेवलपर llama.cpp मॉडल को तेज़ी से और कम क्षमता वाले हार्डवेयर पर चला सकते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11597](https://github.com/ggml-org/llama.cpp/releases/tag/b11597) – llama.cpp, 2026-10-13

अंतिम अपडेट: 2026-10-13