Oossa

llama.cpp、全バックエンドで非連続テンソルのSUMに対応

ggml-org/llama.cppが、CPU、CUDA、Vulkan、WebGPUで非連続テンソルに対するSUM演算を処理できるようになりました。

短信著者: Oossa公開日: 1 分で読める

オープンソースのllama.cppが2026-10-18に新バージョンを公開し、非連続テンソルのSUMに対応しました。この変更はCPU、CUDA、Vulkan、WebGPUの各バックエンドで利用でき、テストスイートにもこうしたビューを対象とするケースが追加されました。今回のアップデートでは、macOS、Linux、Android、Windows向けのビルド済みバイナリーも拡充され、Apple Silicon、Intel、AMD、NVIDIA CUDA 12/13、Snapdragon NPUなど、幅広いハードウェア構成をカバーしています。ダウンロード先として、プロジェクトのウェブサイトとアテステーションへのリンクが掲載されています。

なぜ重要か

より多くのデバイスで高速かつメモリー効率の高い加算処理を実行できるようになり、LLM推論パイプラインの性能向上につながります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。