ggml-orgはllama.cppのバージョンb12088をリリースした。今回の更新ではNVFP4 LFM3モデル形式に対応し、Apple Silicon、Intel搭載Mac、iOS、CPU専用版やVulkan版を含む複数構成のUbuntu向けに、ビルド済みバイナリを提供する。KleidiAI対応のmacOS Apple Silicon版も掲載されているが、現在は無効になっている。すべてのファイルはGitHubのリリースページからダウンロードできる。
なぜ重要か
開発者は新しいモデル形式でllama.cppを実行できるほか、より多くのプラットフォーム向けに用意されたバイナリを使うことで、セットアップの手間を減らせる。