llama.cppプロジェクトは2026年10月5日、バージョンb11404をリリースした。Apple GPU向けに、複数行（2～16行）をまとめて乗算するMetalカーネルが追加された。これらのカーネルは重みの逆量子化を一度だけ行い、SIMDグループ間で処理を分担するため、M3 Ultraでの投機的デコードが従来の行列ベクトル積方式より高速になる。新しいカーネルが使われるのは、Apple7 GPUファミリーに対応するデバイスで、行数が所定のしきい値に達した場合に限られる（たとえばF32では6行）。この変更では融合処理のロジックも改善され、問題を引き起こしていたバッチコピーの融合が削除された。
なぜ重要か
llama.cppを使うApple Siliconユーザーは、投機的デコードでテキストを生成する際、とりわけM3 Ultra搭載デバイスで遅延の低減が期待できる。
