Projektet ggml‑org/llama.cpp släppte version b11776 den 2026-10-21. Uppdateringen lägger till stöd för att returnera logaritmiska sannolikheter (logprobs) vid spekulativ avkodning, en teknik som snabbar upp genereringen genom att förutsäga token i förväg. Ett regressionstest har också lagts till för att säkerställa att de nya logprob-värdena stämmer överens med en körning utan spekulativ avkodning. Åtgärden löser ett fel som gjorde att master-grenen returnerade tomma logprob-data.
Varför det spelar roll
Utvecklare kan nu se konfidensvärden för varje token när de använder snabb spekulativ avkodning, vilket hjälper dem att felsöka och förbättra genereringskvaliteten.
