کتابخانه متن‌باز llama.cpp در 2026‑10‑08 نسخه b11505 را منتشر کرد. این به‌روزرسانی باگی را در شیدر Vulkan برای عملیات top‑k برطرف می‌کند. پیش از این، مقادیر +inf و NaN نادیده گرفته می‌شدند و ممکن بود در پردازنده‌های گرافیکی NVIDIA باعث توقف برنامه یا در پردازنده‌های گرافیکی AMD باعث تولید اندیس‌های نادرست شوند. این وصله NaN را به -inf تبدیل می‌کند، دامنه سطل‌ها را گسترش می‌دهد تا همه مقادیر شمرده شوند و مسیر k = 1 را برای اعداد منفی اصلاح می‌کند. آزمون جدیدی با نام test_top_k_inf این موارد را بررسی می‌کند.
چرا مهم است
توسعه‌دهندگانی که از llama.cpp با Vulkan استفاده می‌کنند، هنگام وجود مقادیر اعشاری بسیار بزرگ یا کوچک در ورودی‌ها، با توقف‌های کمتری روبه‌رو می‌شوند و نتایج رتبه‌بندی توکن‌ها دقیق‌تری می‌گیرند.
