ggml-orgチームは2026-10-16、llama.cppのバージョンb11688をリリースしました。今回の更新ではCPU向けの変更として、AVX2のタイル化アキュムレーターを削減。プロジェクトによると、この調整で推論が高速化します。macOS、iOS、Linux、Vulkan、CUDA向けに、さまざまなハードウェアで使えるビルド済みバイナリも提供されています。この変更には、OpenAIのコード生成モデルCodexの支援を受けたとの表記があります。
なぜ重要か
開発者はコードを再ビルドしなくても、AVX2対応CPUでllama.cppのモデルをより高速に実行できます。