Oossa

llama.cpp b12024、LFM-SCのテンソル処理を変更

LFM-SCのテンソル演算の処理方法を変更。複数のOSやプロセッサー向けのダウンロードも用意されています。

短信著者: Oossa公開日: 1 分で読める

ggml-orgチームはllama.cpp b12024をリリースしました。LFM-SCで行列積の処理を組み替え、3次元テンソルではなく2次元テンソルを使うよう変更しています。リリースページでは、macOS、iOSのほか、CPU版やVulkan版を含む複数のLinux構成向けにダウンロードを案内しています。

リリースノートには、LFM-SC向けの変更で速度が向上するか、ほかのモデルにも影響するかは記載されていません。

なぜ重要か

llama.cppでLFM-SCを実行している人は更新版を試せますが、リリースノートから性能向上があるとは確認できません。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。