Oossa

llama.cpp v0.13、二項演算向けDMA対応を拡張し高速化

オープンソースライブラリのllama.cppが2026年10月13日に新バージョンを公開。複数のプラットフォームで、二項演算におけるDMAブロードキャストへの対応を拡大しました。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームは2026年10月13日、llama.cppのリリースb11580を公開しました。このアップデートでは、二項演算向けのスカラーDMA(ダイレクト・メモリー・アクセス)対応を拡張し、repeatおよび複素データ向けの新しいカーネルを追加しています。また、DMAを使わない処理経路を整理し、非連続ストライドにも対応しました。変更は、Linux、Windows、macOS、Android上のCPU、CUDA、Vulkan、Hexagon NPUビルドに及びます。これにより開発者は、Apple SiliconからSnapdragonチップまで、幅広いデバイスでテンソル計算をより効率的に実行できます。

なぜ重要か

より幅広いハードウェアでllama.cppのモデルを高速に実行でき、エンドユーザーの推論時間短縮につながります。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。