# llama.cpp、小規模バッチ向けOpenCLカーネルを追加

> オープンソースのLlama推論ライブラリに、低バッチ実行向けの最適化OpenCL GEMMが複数追加され、Snapdragon GPUのサポートが拡充された。

Oossa · 2026-10-20 · https://oossa.com/ja/llama-cpp-adds-new-opencl-kernels-for-small-batch-workloads

ggml‑org/llama.cppプロジェクトは2026‑10‑21、アップデート（b11763）をリリースした。小規模バッチの行列乗算を高速化するOpenCLカーネルが複数追加され、q4_k dp4a GEMMや、幅を絞ったmul_mm_f16_f32バリアントが含まれる。また、範囲外読み取りのバグを修正し、不要なCPUフォールバック用のガードを削除した。同ライブラリはすでにmacOSのApple Silicon、WindowsのCUDA、LinuxのVulkanなど幅広いプラットフォームで動作しており、今回の更新でSnapdragon CPU、Adreno GPU、Hexagon NPUのサポートも強化された。

## 事実

- 小規模バッチ向けのOpenCL GEMMバリアントを複数追加（例：q4_k dp4a、mul_mm_f16_f32）。
- リリース日：2026‑10‑21。

## なぜ重要か

Snapdragonチップ搭載のAndroid端末でLlamaモデルをより高速に実行でき、デバイス上でのAI活用がより現実的になる。

## 出典と参考資料

1. [ggml-org/llama.cpp b11763](https://github.com/ggml-org/llama.cpp/releases/tag/b11763) – llama.cpp, 2026-10-20

最終更新: 2026-10-20