# llama.cpp में speculative decoding के लिए logprob सपोर्ट

> ओपन-सोर्स Llama.cpp लाइब्रेरी अब speculative decoding के दौरान टोकन की log probability लौटाती है। इससे master branch की एक गड़बड़ी ठीक हो गई है।

Oossa · 2026-10-21 · https://oossa.com/hi/llama-cpp-adds-logprob-support-for-speculative-decoding

ggml‑org/llama.cpp प्रोजेक्ट ने 2026-10-21 को संस्करण b11776 जारी किया। इस अपडेट में speculative decoding के दौरान log probabilities (logprobs) लौटाने की सुविधा जोड़ी गई है। यह तकनीक पहले से टोकन का अनुमान लगाकर टेक्स्ट जनरेशन तेज़ करती है। यह सुनिश्चित करने के लिए एक regression test भी जोड़ा गया है कि नए logprob मान बिना speculation के चलाए गए परिणामों से मेल खाते हैं। इस सुधार से वह बग ठीक हो गया है जिसमें master branch खाली logprob डेटा लौटाती थी।

## तथ्य

- संस्करण b11776 में speculative decoding के लिए logprob आउटपुट जोड़ा गया है (#27196)।
- जारी होने की तारीख: Wed Oct 21 2026।

## यह क्यों मायने रखता है

अब डेवलपर तेज़ speculative decoding का इस्तेमाल करते हुए हर टोकन के confidence score देख सकते हैं, जिससे उन्हें समस्याएँ ढूँढ़ने और जनरेशन की गुणवत्ता बेहतर करने में मदद मिलेगी।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11776](https://github.com/ggml-org/llama.cpp/releases/tag/b11776) – llama.cpp, 2026-10-21

अंतिम अपडेट: 2026-10-21