ggml-orgチームがllama.cppのバージョンb11471を公開した。モデルの語彙にplamo fimトークンが30090個追加された。macOSのApple Silicon版とIntel版、iOS版に加え、Linux向けの複数のビルド(CPU、Vulkan、CUDA 12.8)も提供される。利用者はGitHubのリリースページから適切なパッケージをダウンロードできる。
なぜ重要か
開発者はソースからビルドする手間をかけずに、より多くのデバイスでllama.cppをローカル実行できる。これにより、時間を節約し、テストも簡単になる。