ggml-orgチームはllama.cpp b11867をリリースしました。リリースノートでは、サーバーのエントリーポイントを刷新したと説明されています。リリースページからは、CPU、Vulkan、CUDA向けを含むmacOS、iOS、Linux用のビルドを入手できます。
公開されているリリースノートには、サーバー利用者にどのような変更があるのか、また、この刷新が性能や互換性に影響するのかは記載されていません。
なぜ重要か
llama.cppのビルドを選ぶ開発者は、複数のプラットフォームやハードウェア向けのダウンロードを利用できます。ただし、公開されているリリースノートからは、サーバーの刷新によってセットアップや動作が変わるかどうかは分かりません。