Oossa

llama.cpp b12027、LFM3のテンソル分割に対応

llama.cppの新バージョンではLFM3のテンソル分割が可能に。macOSやサーバー向けなど、複数プラットフォーム用のビルドもダウンロードできる。

短信著者: Oossa公開日: 1 分で読める

llama.cppプロジェクトはバージョンb12027をリリースし、LFM3モデルのテンソル分割に対応した。macOS、iOS、複数のUbuntu構成向けに、ビルド済みファイルも提供している。

リリースノートでは、今回の変更がどのLFM3モデルやハードウェア構成に対応するのかは説明されていない。

なぜ重要か

llama.cppでLFM3を動かす開発者はテンソル分割を試せる。ただし、対応する構成や期待できる効果はリリースノートに記載されていない。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。