Le projet ggml‑org/llama.cpp a publié la version b11776 le 2026-10-21. Cette mise à jour permet de renvoyer les probabilités logarithmiques (logprobs) lors du décodage spéculatif, une technique qui accélère la génération en anticipant des tokens. Un test de régression a également été ajouté pour vérifier que les nouvelles valeurs de logprobs correspondent à celles obtenues sans spéculation. Le correctif résout un bug qui faisait que la branche master renvoyait des données de logprobs vides.
Pourquoi c'est important
Les développeurs peuvent désormais consulter les scores de confiance de chaque token tout en utilisant le décodage spéculatif rapide, ce qui les aide à déboguer et à améliorer la qualité de génération.
