21 октября 2026 года ggml‑org выпустила llama.cpp версии b11782. Обновление исправляет ошибку сервера, из-за которой при n > 1 занижалось значение usage.completion_tokens и, соответственно, статистика расхода токенов при пакетной генерации. В релиз также вошли новые готовые сборки для Apple Silicon, компьютеров Mac с процессорами Intel, iOS и нескольких вариантов Ubuntu (CPU, Vulkan, CUDA).
Почему это важно
Разработчики получат точные данные об использовании токенов и смогут лучше отслеживать затраты и производительность при генерации нескольких вариантов ответа.
