ggml-orgチームがllama.cppのバージョンb11806を公開しました。より効率的なファインチューニング手法である、LoRAのprism.hadamard折り畳み重みに対応しています。また、Apple Silicon、Intel Mac、iOS向けのほか、CPU、Vulkan、CUDA版を含む複数のLinux向けに、ビルド済みバイナリを提供します。用途に合ったパッケージはGitHubのリリースページからダウンロードできます。
なぜ重要か
開発者は自分でコードをビルドしなくても、より多くのプラットフォームでLoRAファインチューニング済みモデルをより高速に実行できるようになります。
