ggml‑orgはllama.cppのバージョンb11469をリリースした。今回の更新では、Xiaodong Yeが提供したMUSA tile‑lightning indexerカーネルが追加された。また、Apple Silicon、Intel Mac、iOS、およびCPU、Vulkan、CUDAに対応する複数のUbuntuビルド向けに、すぐに実行できるバイナリも提供する。利用者はGitHubのリリースページから適切なパッケージをダウンロードできる。
なぜ重要か
ソースからビルドしなくても、MUSA対応GPUを含む幅広いハードウェアでllama.cppをローカル実行できるようになった。
