Oossa

llama.cpp, spekülatif kod çözmeye logprob desteği ekledi

Açık kaynaklı Llama.cpp kütüphanesi, spekülatif kod çözme sırasında artık token log olasılıklarını döndürüyor; böylece master dalındaki bir gerileme giderildi.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml‑org/llama.cpp projesi, b11776 sürümünü 2026-10-21 tarihinde yayımladı. Güncelleme, token’ları önceden tahmin ederek üretimi hızlandıran spekülatif kod çözme sırasında log olasılıklarının (logprobs) döndürülmesini sağlıyor. Yeni logprob değerlerinin spekülasyon kullanılmadan yapılan çalıştırmadaki değerlerle eşleştiğini doğrulamak için bir gerileme testi de eklendi. Düzeltme, master dalının boş logprob verisi döndürmesine yol açan hatayı gideriyor.

Neden önemli

Geliştiriciler artık hızlı spekülatif kod çözme kullanırken her token için güven puanlarını görebilir; bu da üretim kalitesindeki sorunları ayıklamalarına ve kaliteyi artırmalarına yardımcı olur.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.