ggml-org/llama.cpp projesi 2026-10-21 tarihinde yeni bir sürüm yayımladı. Bu sürüm, karışık uzmanlı (MoE) aşağı projeksiyonlarında tek bir genel ölçekleme katsayısı kullanmak yerine, POOL_1D maksimum indirgemesinden yararlanarak uzman-token başına bir katsayı kullanıyor. Değişiklik ayrıca bölünmüş durum mantığına POOL_1D desteği ekleyerek tensör paralelliğini mümkün kılıyor. Güncellemede kod sadeleştirmeleri ve yeniden düzenlenmiş bir ölçekleme dönüş yapısı da yer alıyor.
Neden önemli
MoE modellerini çalıştıran geliştiriciler artık her token için daha isabetli ölçekleme elde edebilir; bu da çok GPU’lu kurulumlarda performansı artırabilir.
