ggml‑orgチームは2026年10月17日、llama.cppのバージョンb11713を公開した。今回のアップデートでは、高速なMMVQアルゴリズムを採用し、低ビット型のCUDA処理性能を向上させた。また、Q3_KおよびQ6_K量子化に関するHIP(AMD)GPU向けの小規模な修正も加わった。macOS、iOS、および複数のUbuntu環境(CPU、Vulkan、CUDA)向けのビルド済みバイナリをダウンロードできるようになった。
なぜ重要か
開発者はNVIDIA GPUで量子化LLMをより高速に実行できるため、ローカルAIアプリケーションの推論コストを抑えられる。