Oossa

llama.cpp b11782 corrige le décompte des jetons

Ce moteur LLM open source met à jour son serveur pour compter correctement les jetons générés lors de sorties multiples et propose de nouveaux binaires pour macOS, iOS et Linux.

BrèvePar Publié par Oossa: 1 min de lecture

ggml-org a publié llama.cpp version b11782 le 21 Oct 2026. Cette mise à jour corrige un problème du serveur qui sous-estimait usage.completion_tokens lorsque n > 1, ce qui faussait à la baisse les statistiques d’utilisation des jetons pour les générations par lots. La version propose également de nouveaux binaires précompilés pour Apple Silicon, les Mac Intel, iOS et plusieurs versions d’Ubuntu (CPU, Vulkan, CUDA).

Pourquoi c'est important

Les développeurs disposeront de statistiques d’utilisation des jetons exactes, ce qui les aidera à suivre les coûts et les performances lors de l’exécution de plusieurs complétions.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.