# llama.cpp Vulkan अपडेट ने top‑k में अनंत और NaN की समस्या सुधारी

> Oct 8 2026 के रिलीज़ में Vulkan बग ठीक किया गया है, जिसकी वजह से top‑k गणनाओं में अनंत या NaN मान आने पर क्रैश और गलत नतीजे मिलते थे।

Oossa · 2026-10-08 · https://oossa.com/hi/llama-cpp-vulkan-update-fixes-infinities-and-nan-handling-in-top-k

ओपन-सोर्स llama.cpp लाइब्रेरी का version b11505, 2026‑10‑08 को जारी हुआ। इस अपडेट में top‑k ऑपरेशन से जुड़ा Vulkan शेडर बग ठीक किया गया है। पहले, +inf और NaN मानों को नज़रअंदाज़ किया जाता था, जिससे NVIDIA GPU पर प्रोसेस अटक सकती थी या AMD GPU पर गलत इंडेक्स मिल सकते थे। पैच NaN को -inf में बदलता है, हर मान की गिनती के लिए बकेट की रेंज बढ़ाता है और ऋणात्मक संख्याओं के लिए k = 1 वाले पाथ को ठीक करता है। इन मामलों की जाँच के लिए test_top_k_inf नाम का नया टेस्ट जोड़ा गया है।

## तथ्य

- रिलीज़ की तारीख: 2026‑10‑08
- यह सुधार Vulkan में +inf, NaN और ऋणात्मक मानों के TOP_K हैंडलिंग से जुड़ा है

## यह क्यों मायने रखता है

Vulkan के साथ llama.cpp इस्तेमाल करने वाले डेवलपर्स को ऐसे प्रॉम्प्ट में, जिनमें फ़्लोटिंग-पॉइंट के अत्यधिक मान हों, कम क्रैश और टोकन की अधिक सटीक रैंकिंग देखने को मिलेगी।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11505](https://github.com/ggml-org/llama.cpp/releases/tag/b11505) – llama.cpp, 2026-10-08

अंतिम अपडेट: 2026-10-08