# llama.cpp lägger till logprobs för spekulativ avkodning

> Open source-biblioteket Llama.cpp returnerar nu tokenens logaritmiska sannolikheter vid spekulativ avkodning, vilket åtgärdar en regression i master-grenen.

Oossa · 2026-10-21 · https://oossa.com/sv/llama-cpp-adds-logprob-support-for-speculative-decoding

Projektet ggml‑org/llama.cpp släppte version b11776 den 2026-10-21. Uppdateringen lägger till stöd för att returnera logaritmiska sannolikheter (logprobs) vid spekulativ avkodning, en teknik som snabbar upp genereringen genom att förutsäga token i förväg. Ett regressionstest har också lagts till för att säkerställa att de nya logprob-värdena stämmer överens med en körning utan spekulativ avkodning. Åtgärden löser ett fel som gjorde att master-grenen returnerade tomma logprob-data.

## Fakta

- Version b11776 lägger till logprob-utdata för spekulativ avkodning (#27196).
- Utgivningsdatum: onsdag 21 okt 2026.

## Varför det spelar roll

Utvecklare kan nu se konfidensvärden för varje token när de använder snabb spekulativ avkodning, vilket hjälper dem att felsöka och förbättra genereringskvaliteten.

## Källor och referenser

1. [ggml-org/llama.cpp b11776](https://github.com/ggml-org/llama.cpp/releases/tag/b11776) – llama.cpp, 2026-10-21

Senast uppdaterad: 2026-10-21
