オープンソースライブラリのllama.cppは、2026-10-17にバージョンb11706をリリースした。今回のアップデートでは、Q4_0/Q8_0形式の重みの並べ替え後に発生していた、SYCLでのプロンプト処理の回帰不具合を修正している。また、macOSのApple SiliconとIntel、iOSに加え、CPU、Vulkan、CUDA 12.8を含む各種Linux環境向けの新しいビルド済みバイナリも提供する。バイナリはGitHubのリリースページからダウンロードできる。
なぜ重要か
SYCL対応GPUでllama.cppを使う際のプロンプト処理エラーが解消され、ローカルLLMを実行できるハードウェアの選択肢が広がる。
