さまざまなデバイスで動作する軽量LLMランナー、llama.cppのリリースb11539をggml‑orgが公開しました。macOS Apple Silicon、macOS Intel、iOS XCFramework向けのほか、CPU、Vulkan、CUDA 12.8に対応する複数のUbuntuビルドのバイナリアーカイブが新たに用意されています。ダウンロードリンクはGitHubのリリースページに掲載されています。
なぜ重要か
開発者は自分でビルドしなくても、より多くのハードウェア上でllama.cppをローカル実行できるようになります。