ggml‑org/llama.cpp projesi, b11776 sürümünü 2026-10-21 tarihinde yayımladı. Güncelleme, token’ları önceden tahmin ederek üretimi hızlandıran spekülatif kod çözme sırasında log olasılıklarının (logprobs) döndürülmesini sağlıyor. Yeni logprob değerlerinin spekülasyon kullanılmadan yapılan çalıştırmadaki değerlerle eşleştiğini doğrulamak için bir gerileme testi de eklendi. Düzeltme, master dalının boş logprob verisi döndürmesine yol açan hatayı gideriyor.
Neden önemli
Geliştiriciler artık hızlı spekülatif kod çözme kullanırken her token için güven puanlarını görebilir; bu da üretim kalitesindeki sorunları ayıklamalarına ve kaliteyi artırmalarına yardımcı olur.