Oossa

llama.cpp b11782, belirteç sayımı hatasını düzeltiyor

Açık kaynaklı LLM çalıştırıcısı, birden fazla çıktı üretirken tamamlanma belirteçlerini doğru saymak için sunucu kodunu güncelliyor; macOS, iOS ve Linux için yeni ikili dosyalar da sunuyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml‑org, llama.cpp’nin b11782 sürümünü 21 Oct 2026 tarihinde yayımladı. Güncelleme, n > 1 olduğunda usage.completion_tokens değerinin eksik sayılmasına yol açan sunucu sorununu gideriyor; bu nedenle toplu üretimlerde belirteç kullanım istatistikleri düşük görünüyordu. Sürüm ayrıca Apple Silicon, Intel Mac’ler ve iOS için yeni önceden derlenmiş ikili dosyaların yanı sıra çeşitli Ubuntu derlemeleri (CPU, Vulkan, CUDA) sunuyor.

Neden önemli

Geliştiriciler, birden fazla tamamlanma çalıştırırken maliyetleri ve performansı izlemelerine yardımcı olacak doğru belirteç kullanım verilerini görecek.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.