Oossa

llama.cpp güncellemesi GQA desteği ve yeni tokenizer getiriyor

Açık kaynaklı llama.cpp kütüphanesi artık standart dışı GQA modellerini ve BPE tokenizer’ı destekliyor; platform derlemeleri de genişletildi.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

ggml‑org ekibi, llama.cpp’nin b11819 sürümünü 2026-10-22 tarihinde yayımladı. Güncelleme, standart dışı GQA (gruplandırılmış sorgu dikkati) modelleri ve BPE (bayt çifti kodlaması) tokenizer’ı için destek sunarken yeni bir domyn‑small pre-type da ekliyor. Ayrıca Metaspace önek ekleme şemaları için meta veri işleme özelliği getiriyor. Derleme matrisi artık Apple Silicon, CUDA 12/13, Vulkan, ROCm ve Android Snapdragon dâhil çok sayıda CPU ve GPU hedefini listeliyor.

Neden önemli

Geliştiriciler artık GQA kullananlar da dâhil daha geniş bir LLM yelpazesini akıllı telefonlar ve GPU’lar gibi daha fazla cihazda çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.