ggml-orgチームは2026年10月13日、llama.cppのリリースb11580を公開しました。このアップデートでは、二項演算向けのスカラーDMA(ダイレクト・メモリー・アクセス)対応を拡張し、repeatおよび複素データ向けの新しいカーネルを追加しています。また、DMAを使わない処理経路を整理し、非連続ストライドにも対応しました。変更は、Linux、Windows、macOS、Android上のCPU、CUDA、Vulkan、Hexagon NPUビルドに及びます。これにより開発者は、Apple SiliconからSnapdragonチップまで、幅広いデバイスでテンソル計算をより効率的に実行できます。
なぜ重要か
より幅広いハードウェアでllama.cppのモデルを高速に実行でき、エンドユーザーの推論時間短縮につながります。