# llama.cpp、Intel Arc GPUで量子化モデルのプロンプト処理を高速化

> リリース b11979ではSYCLの逆量子化処理を変更。Intel Arc Pro B70でのテストではプロンプト処理が高速化した一方、デコード速度に変化はなかった。

Oossa · 2026-10-29 · https://oossa.com/ja/llama-cpp-speeds-up-quantized-prefill-on-intel-arc-gpus

ggml-org/llama.cppのリリース b11979では、Intel GPU上で複数の量子化モデル形式を変換するSYCLカーネルの処理方法が変更された。Arc Pro B70では、テンソルに並べ替えたレイアウトを使うと、プロンプト文を処理するプレフィルが高速化した。向上幅は形式やモデルによって異なる。

この方法で報告された最大の向上幅は、270億パラメーターのQ6_Kモデルで28.7%だった。MXFP4のMixture of Expertsモデルでは、報告されたテストでプレフィルが57%から61%向上し、新しいレイアウトを使った場合も同様だった。デコード速度に変化はなかった。測定結果はプロジェクトによる報告で、パープレキシティの結果は変わらないか、実行ごとのばらつきの範囲内だった。

## 事実

- llama.cpp b11979では、Arc Pro B70上でQ6_K 27Bモデルのプレフィルが28.7%向上したと報告されている。
- MXFP4 MoEのプレフィルはpp2048で57%、pp512で61%向上し、デコード速度に変化はなかった。

## なぜ重要か

Intel Arc Pro B70でこれらのモデル形式を使う人は、プロンプト処理時間を短縮できる可能性がある。ただし、効果はモデルやレイアウトによって異なり、デコードは高速化しない。

## 出典と参考資料

1. [ggml-org/llama.cpp b11979](https://github.com/ggml-org/llama.cpp/releases/tag/b11979) – llama.cpp, 2026-10-29

最終更新: 2026-10-29