ggml-orgがllama.cpp version b11503を公開しました。内蔵のcpp-httplibライブラリがversion 0.60.1に更新されています。また、Apple Silicon、Intel Mac、iOSに加え、CPU、Vulkan、CUDAに対応した複数のUbuntuビルドの新しいコンパイル済みバイナリも提供されます。ファイルはGitHubのリリースページからダウンロードできます。
なぜ重要か
開発者は、より新しいHTTPライブラリを使って、さらに多くのプラットフォームでLLMをビルドして実行でき、連携に伴う手間を減らせます。
