# llama.cpp ergänzt Logprobs für spekulatives Decoding

> Die Open-Source-Bibliothek Llama.cpp gibt beim spekulativen Decoding jetzt Token-Log-Wahrscheinlichkeiten zurück. Damit wird ein Fehler im master-Branch behoben.

Oossa · 2026-10-21 · https://oossa.com/de/llama-cpp-adds-logprob-support-for-speculative-decoding

Das Projekt ggml‑org/llama.cpp hat am 2026-10-21 Version b11776 veröffentlicht. Das Update ermöglicht es, beim spekulativen Decoding Log-Wahrscheinlichkeiten (Logprobs) zurückzugeben. Bei dieser Technik werden Token im Voraus erraten, um die Generierung zu beschleunigen. Ein Regressionstest stellt außerdem sicher, dass die neuen Logprob-Werte mit einem Durchlauf ohne Spekulation übereinstimmen. Der Fehler, durch den der master-Branch leere Logprob-Daten zurückgab, ist damit behoben.

## Die Fakten

- Version b11776 ergänzt die Logprob-Ausgabe beim spekulativen Decoding (#27196).
- Veröffentlichungsdatum: Wed Oct 21 2026.

## Warum es wichtig ist

Entwickler können nun auch beim schnellen spekulativen Decoding Konfidenzwerte für jedes Token einsehen. Das erleichtert die Fehlersuche und hilft, die Generierungsqualität zu verbessern.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11776](https://github.com/ggml-org/llama.cpp/releases/tag/b11776) – llama.cpp, 2026-10-21

Zuletzt aktualisiert: 2026-10-21