# llama.cpp、SYCLでIQ3推論を高速化する重みの並べ替えを追加

> オープンソースのllama.cppライブラリが、読み込み時にIQ3_SとIQ3_XXSの重みを並べ替える機能を追加。Intel Arc GPUでのトークン処理速度が向上する。

Oossa · 2026-10-15 · https://oossa.com/ja/llama-cpp-adds-sycl-weight-reorder-for-faster-iq3-inference

llama.cppプロジェクトは2026-10-15、バージョンb11636をリリースした。SYCL環境でIQ3_SとIQ3_XXSの量子化を実行する際に、重みの配置を保持する機能が加わった。モデルの読み込み時に重みを一度並べ替えることで、GPUはビットを集める処理ではなく、まとまったブロックを処理できるようになり、デコードとプリフィルが高速化する。Intel Arc Pro B70 GPUでは、Qwen3.8‑27Bモデルの短いプロンプトに対するトークン処理速度が毎秒12.92トークンから23.54トークンに上がり、82％向上した。

## 事実

- リリース日：2026-10-15（「Thu Oct 15 2026 06:50:37 GMT+0200」）
- Intel Arc Pro B70でIQ3_Sのトークン処理速度が毎秒12.92トークンから23.54トークンに向上（+82％）

## なぜ重要か

SYCL対応GPUでllama.cppを使う開発者は、モデルのコードを変更せずに応答を大幅に高速化できる。

## 出典と参考資料

1. [ggml-org/llama.cpp b11636](https://github.com/ggml-org/llama.cpp/releases/tag/b11636) – llama.cpp, 2026-10-15

最終更新: 2026-10-15