Oossa

llama.cpp güncellemesi host tensor görünümü desteği ekliyor

9 Ekim 2026 tarihli sürüm, KV önbelleği bölünürken yaşanan çökme sorununu gideriyor ve K2 Horizon tensor desteğini yeniden etkinleştiriyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml‑org ekibi, llama.cpp’nin b11528 sürümünü 2026-10-09’da yayımladı. Güncelleme, kitaplığın host belleğinde ayrılmış tensor görünümlerini normal düğümler olarak ele almasını sağlıyor ve –split-mode tensor seçeneği kullanılırken ortaya çıkan önceki bir assert hatasını gideriyor. Ayrıca K2 Horizon hızlandırıcısı için SM tensor desteğini geri getiriyor. Değişiklik resmî GitHub sürümüne dahil edildi ve macOS, Windows ve Linux dahil listelenen tüm platformlarda geçerli.

Neden önemli

Geliştiriciler artık bölünmüş modda KV önbelleğiyle llama.cpp’yi daha fazla donanımda çökme yaşamadan çalıştırabilir; böylece yerel LLM çıkarımı için kullanılabilir yapılandırmaların kapsamı genişler.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.