オープンソースのllama.cppライブラリは、2026-10-08にバージョンb11505をリリースしました。今回の更新では、top-k演算に使われるVulkanシェーダーの不具合を修正しています。従来は+infとNaNが無視され、NVIDIA GPUでは処理が停止したり、AMD GPUでは誤ったインデックスが返されたりすることがありました。修正ではNaNを-infに置き換え、すべての値を数えられるようバケットの範囲を広げたほか、負の数を扱うk = 1の処理も正しました。これらのケースを確認する新しいテスト「test_top_k_inf」も追加されています。
なぜ重要か
Vulkanでllama.cppを使う開発者は、極端な浮動小数点値を含むプロンプトで、クラッシュが減り、トークンの順位付け結果がより正確になります。