ggml‑org 于 21 Oct 2026 发布 llama.cpp b11782。此次更新修复了服务器的一项问题:当 n > 1 时,usage.completion_tokens 计数偏低,导致批量生成的 token 用量统计不准确。该版本还提供了新版预编译二进制文件,适用于 Apple Silicon、Intel Mac、iOS,以及多个 Ubuntu 版本(CPU、Vulkan、CUDA)。
为什么重要
开发者可以获得准确的 token 用量数据,从而更好地监控运行多个补全任务时的成本和性能。