ggml-orgはllama.cppのバージョンb12224を公開した。今回の更新では、バックエンドが読み取らない入力データを送信しないようにし、小さなパフォーマンス上の不具合を修正した。また、macOSのApple Silicon向けとIntel向け、iOS向け、およびs390xやVulkanに対応するものを含む複数のUbuntu CPUビルド向けに、すぐに実行できるバイナリを用意した。リリースノートにはダウンロードファイルと検証用の証明書へのリンクがある。
なぜ重要か
開発者はソースからビルドすることなく、より多くのハードウェアでLlama.cppをローカル実行でき、セットアップの時間を節約できる。