Oossa

llama.cpp、Vulkanのtop-kで無限大とNaNを正しく処理

2026年10月8日リリースでは、top-k計算に無限大やNaNが含まれるとクラッシュや誤った結果を招くVulkanの不具合を修正しました。

短信著者: Oossa公開日: 1 分で読める

オープンソースのllama.cppライブラリは、2026-10-08にバージョンb11505をリリースしました。今回の更新では、top-k演算に使われるVulkanシェーダーの不具合を修正しています。従来は+infとNaNが無視され、NVIDIA GPUでは処理が停止したり、AMD GPUでは誤ったインデックスが返されたりすることがありました。修正ではNaNを-infに置き換え、すべての値を数えられるようバケットの範囲を広げたほか、負の数を扱うk = 1の処理も正しました。これらのケースを確認する新しいテスト「test_top_k_inf」も追加されています。

なぜ重要か

Vulkanでllama.cppを使う開発者は、極端な浮動小数点値を含むプロンプトで、クラッシュが減り、トークンの順位付け結果がより正確になります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。