ggml-orgチームが、llama.cppのバージョンb11465を公開しました。macOS Apple Silicon(arm64)、macOS Intel(x64)、iOSに加え、複数のUbuntu構成(CPU、Vulkan、CUDA 12.8)向けのビルド済みバイナリが含まれています。また、recurrent rollbackのテスト時にanchorを維持するためのテスト変更も追加されました。すべてのファイルはGitHubのリリースページからダウンロードできます。
なぜ重要か
開発者はコードを自分でコンパイルしなくても、より多くのハードウェアでLLMをローカル実行できるようになります。