llama.cpp b11782、複数生成時のトークン数バグを修正

オープンソースのLLM実行環境がサーバーコードを更新し、複数の出力を生成する際の完了トークン数を正しく集計できるようにした。macOS、iOS、Linux向けの新しいバイナリも追加された。

短信著者： OossaOossa公開日: 2026年10月21日 5:12 UTC1 分で読める

ggml-orgは2026年10月21日、llama.cppのバージョンb11782をリリースした。今回の更新では、n > 1の場合にusage.completion_tokensが過少にカウントされるサーバーの問題を修正。バッチ生成時のトークン使用量が実際より少なく表示されていた。Apple Silicon、Intel Mac、iOSのほか、複数のUbuntuビルド（CPU、Vulkan、CUDA）向けに、新しいプリビルドバイナリも提供する。