Oossa

llama.cpp、VulkanバックエンドにTOP_K_MASKを追加

オープンソースのllama.cppがVulkan対応を更新し、TOP_K_MASK機能を追加。関連するバリアの問題を修正し、共通ヘッダーに関数宣言を加えました。

短信著者: Oossa公開日: 1 分で読める

ggml‑org/llama.cppプロジェクトは2026‑11‑13に新バージョンをリリースしました。今回の更新では、Vulkan GPUバックエンドにTOP_K_MASK演算を追加し、このマスクに関するバリアの問題を修正したほか、共通ヘッダーに関数を宣言しました。変更にはClaude Opus 5.5の支援が使われました。

なぜ重要か

GPUユーザーは推論時にtop-kマスキングを適用できるようになり、トークン選択をより細かく制御できます。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。