llama.cpp projesi 2026-10-02 tarihinde küçük bir CUDA güncellemesi yayımladı. Güncelleme, Volta GPU’ların (sm_70) Turing GPU’larla aynı MMVQ ayar tablosunu kullanmasını sağlıyor. Değişiklik, Tesla V100 32 GB üzerinde Qwen3.8‑27B modelinde verimi yaklaşık %3 artırdı. Şaşırtma (perplexity) ile ölçülen çıktı kalitesi aynı kaldı. Yamaya anyei ve ortak yazarları katkıda bulundu.
Neden önemli
llama.cpp’yi V100 GPU’larda kullananlar, doğruluktan ödün vermeden modelleri biraz daha hızlı çalıştırabilir.