# llama.cpp b12094、Hexagonのtop-kサンプリングを高速化

> llama.cppの新バージョンでは、Hexagon向けtop-kサンプリングを変更。スキャンで候補外のブロックのソートを省く。速度向上の数値は公表されていない。

Oossa · 2026-11-04 · https://oossa.com/ja/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

ggml-orgチームは2026年11月4日、Hexagonバックエンド向けにtop-kサンプリングを高速化したllama.cpp b12094を公開した。top-kサンプリングは、テキスト生成時にスコア上位の候補から選択する方式だ。

この変更は、kが2〜64で、行の幅が1,024エントリーを超える場合を対象とする。上位候補を含まないブロックのソートを省くが、リリースでは速度向上の測定値は示されていない。

## 事実

- 新しい処理では、Hexagonのベクトル最大値演算を使い、256個の値からなるブロックを選別する。
- 単一行と複数行の処理の両方に適用される。

## なぜ重要か

対応するHexagonハードウェアでllama.cppを実行するユーザーは、こうした処理でより効率的なサンプリング方法を利用できる。ただし、実際の使用時にどれほど高速化するかは公表されていない。

## 出典と参考資料

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

最終更新: 2026-11-04