# llama.cpp、Apple M3 Ultra向けに投機的デコードを高速化するMetalカーネルを追加

> オープンソースのLLMランタイムがApple Silicon向けの新しい行列積カーネルを採用。特定の量子化モデルでトークン生成時間を短縮する。

Oossa · 2026-10-05 · https://oossa.com/ja/llama-cpp-adds-few-row-metal-kernels-for-faster-speculative-decoding-on-apple-m3

llama.cppプロジェクトは2026年10月5日、バージョンb11404をリリースした。Apple GPU向けに、複数行（2～16行）をまとめて乗算するMetalカーネルが追加された。これらのカーネルは重みの逆量子化を一度だけ行い、SIMDグループ間で処理を分担するため、M3 Ultraでの投機的デコードが従来の行列ベクトル積方式より高速になる。新しいカーネルが使われるのは、Apple7 GPUファミリーに対応するデバイスで、行数が所定のしきい値に達した場合に限られる（たとえばF32では6行）。この変更では融合処理のロジックも改善され、問題を引き起こしていたバッチコピーの融合が削除された。

## 事実

- リリース日：2026年10月5日（「Mon Oct 05 2026 08:06:22 GMT+0200」）。
- 新しいMetalカーネルは2～16行を処理し、M3 Ultraでの投機的デコードを高速化する。

## なぜ重要か

llama.cppを使うApple Siliconユーザーは、投機的デコードでテキストを生成する際、とりわけM3 Ultra搭載デバイスで遅延の低減が期待できる。

## 出典と参考資料

1. [ggml-org/llama.cpp b11404](https://github.com/ggml-org/llama.cpp/releases/tag/b11404) – llama.cpp, 2026-10-05

最終更新: 2026-10-05