Açık kaynaklı llama.cpp kütüphanesi, 2026-10-08 tarihinde b11505 sürümünü yayımladı. Güncelleme, top-k işlemindeki bir Vulkan gölgelendirici hatasını gideriyor. Daha önce +inf ve NaN değerleri yok sayılıyor; bu da NVIDIA GPU’larda takılmalara, AMD GPU’larda ise yanlış indekslere yol açabiliyordu. Yama, NaN değerlerini -inf olarak eşliyor, tüm değerlerin sayılması için kova aralığını genişletiyor ve negatif sayılar için k = 1 yolunu düzeltiyor. Bu durumları denetlemek üzere test_top_k_inf adlı yeni bir test eklendi.
Neden önemli
Vulkan ile llama.cpp kullanan geliştiriciler, istemlerinde aşırı kayan nokta değerleri bulunduğunda daha az çökmeyle karşılaşacak ve token sıralama sonuçlarını daha doğru alacak.
