Oossa

llama.cpp, b11800 sürümüne birleştirilmiş top-k maskeleme ekledi

Açık kaynaklı çıkarım kütüphanesine eklenen yeni birleştirilmiş işlem, bazı modellerde QSA maskeleme performansını artırıyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml-org llama.cpp projesi, b11800 sürümünü 2026-10-21'de yayımladı. Güncelleme, QSA, DSA ve DeepSeek V4 CSA modellerinde kullanılabilen birleştirilmiş bir top-k maskeleme işlemi (ggml_top_k_mask) ekliyor. Bu işlem, elle yazılmış maskeleme kodunun yerini alarak seçilmeyen hücreleri –inf olarak ayarlayan tek bir düğüm kullanıyor. İşlem kafa başına çalışıyor; isteğe bağlı puanları, blok boyutlarını ve ek hücreleri de destekliyor.

Neden önemli

Kütüphane maskeleme işlemini tek bir optimize edilmiş adımda gerçekleştirdiği için geliştiriciler desteklenen modelleri daha hızlı çalıştırabiliyor.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.