llama.cpp、小規模バッチ向けOpenCLカーネルを追加

オープンソースのLlama推論ライブラリに、低バッチ実行向けの最適化OpenCL GEMMが複数追加され、Snapdragon GPUのサポートが拡充された。

短信著者： OossaOossa公開日: 2026年10月20日 23:09 UTC1 分で読める

ggml‑org/llama.cppプロジェクトは2026‑10‑21、アップデート（b11763）をリリースした。小規模バッチの行列乗算を高速化するOpenCLカーネルが複数追加され、q4_k dp4a GEMMや、幅を絞ったmul_mm_f16_f32バリアントが含まれる。また、範囲外読み取りのバグを修正し、不要なCPUフォールバック用のガードを削除した。同ライブラリはすでにmacOSのApple Silicon、WindowsのCUDA、LinuxのVulkanなど幅広いプラットフォームで動作しており、今回の更新でSnapdragon CPU、Adreno GPU、Hexagon NPUのサポートも強化された。