ggml-orgチームはllama.cpp b12024をリリースしました。LFM-SCで行列積の処理を組み替え、3次元テンソルではなく2次元テンソルを使うよう変更しています。リリースページでは、macOS、iOSのほか、CPU版やVulkan版を含む複数のLinux構成向けにダウンロードを案内しています。
リリースノートには、LFM-SC向けの変更で速度が向上するか、ほかのモデルにも影響するかは記載されていません。
なぜ重要か
llama.cppでLFM-SCを実行している人は更新版を試せますが、リリースノートから性能向上があるとは確認できません。