ggml‑orgチームがllama.cppのリリースb11531を公開した。チャットAPIを刷新し、macOS(Apple SiliconおよびIntel)、iOS、CPU、Vulkan、CUDA 12.8に対応した複数のUbuntu向けに、ビルド済みバイナリを同梱している。ダウンロードリンクはGitHubのリリースページに掲載されている。ユーザーは自分でコンパイルせずに、より多くのプラットフォームでLLMをローカル実行できるようになった。
なぜ重要か
開発者はビルド作業を省き、UbuntuでのGPUアクセラレーションにも対応しながら、より多くのデバイスでLlamaモデルをローカル実行できる。