オープンソースのllama.cppライブラリは2026年10月22日、バージョンb11812を発表した。macOS Apple Silicon、macOS Intel、iOSに加え、CPU、Vulkan、CUDA 12に対応する複数のUbuntu構成向けに、すぐに実行できるバイナリを提供する。このリリースでは、すべてのGraniteモデルについてレイヤー入力も記録している。適切なパッケージはGitHubのリリースページからダウンロードできる。
なぜ重要か
開発者は、クラウドサービスを使わずに、さまざまなデスクトップやモバイル環境でLLMをローカル実行できる。