オープンソースのllama.cppが2026-10-18に新バージョンを公開し、非連続テンソルのSUMに対応しました。この変更はCPU、CUDA、Vulkan、WebGPUの各バックエンドで利用でき、テストスイートにもこうしたビューを対象とするケースが追加されました。今回のアップデートでは、macOS、Linux、Android、Windows向けのビルド済みバイナリーも拡充され、Apple Silicon、Intel、AMD、NVIDIA CUDA 12/13、Snapdragon NPUなど、幅広いハードウェア構成をカバーしています。ダウンロード先として、プロジェクトのウェブサイトとアテステーションへのリンクが掲載されています。
なぜ重要か
より多くのデバイスで高速かつメモリー効率の高い加算処理を実行できるようになり、LLM推論パイプラインの性能向上につながります。