Oossa

llama.cpp b12088、NVFP4 LFM3対応と新バイナリを追加

オープンソースのLLM実行環境が、macOS、iOS、複数のUbuntu向けに更新版バイナリを公開。新たにNVFP4 LFM3モデルを選べるようになった。

短信著者: Oossa公開日: 1 分で読める

ggml-orgはllama.cppのバージョンb12088をリリースした。今回の更新ではNVFP4 LFM3モデル形式に対応し、Apple Silicon、Intel搭載Mac、iOS、CPU専用版やVulkan版を含む複数構成のUbuntu向けに、ビルド済みバイナリを提供する。KleidiAI対応のmacOS Apple Silicon版も掲載されているが、現在は無効になっている。すべてのファイルはGitHubのリリースページからダウンロードできる。

なぜ重要か

開発者は新しいモデル形式でllama.cppを実行できるほか、より多くのプラットフォーム向けに用意されたバイナリを使うことで、セットアップの手間を減らせる。

この記事は役に立ちましたか?
共有

次に読む

Oossa · ニュースレター

今週のAIを、わかりやすく

毎週月曜日、知っておきたいニュースをやさしい言葉で。無料・スパムなし。