ओपन-सोर्स llama.cpp लाइब्रेरी का version b11505, 2026‑10‑08 को जारी हुआ। इस अपडेट में top‑k ऑपरेशन से जुड़ा Vulkan शेडर बग ठीक किया गया है। पहले, +inf और NaN मानों को नज़रअंदाज़ किया जाता था, जिससे NVIDIA GPU पर प्रोसेस अटक सकती थी या AMD GPU पर गलत इंडेक्स मिल सकते थे। पैच NaN को -inf में बदलता है, हर मान की गिनती के लिए बकेट की रेंज बढ़ाता है और ऋणात्मक संख्याओं के लिए k = 1 वाले पाथ को ठीक करता है। इन मामलों की जाँच के लिए test_top_k_inf नाम का नया टेस्ट जोड़ा गया है।
यह क्यों मायने रखता है
Vulkan के साथ llama.cpp इस्तेमाल करने वाले डेवलपर्स को ऐसे प्रॉम्प्ट में, जिनमें फ़्लोटिंग-पॉइंट के अत्यधिक मान हों, कम क्रैश और टोकन की अधिक सटीक रैंकिंग देखने को मिलेगी।
