Oossa

llama.cpp, Volta GPU’lar için CUDA ayarıyla V100 hızını artırdı

İki satırlık değişiklik, Volta’yı (sm_70) Turing’in MMVQ tablosuna yönlendirerek Tesla V100’de sonuçları değiştirmeden yaklaşık %3 hız artışı sağlıyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

llama.cpp projesi 2026-10-02 tarihinde küçük bir CUDA güncellemesi yayımladı. Güncelleme, Volta GPU’ların (sm_70) Turing GPU’larla aynı MMVQ ayar tablosunu kullanmasını sağlıyor. Değişiklik, Tesla V100 32 GB üzerinde Qwen3.8‑27B modelinde verimi yaklaşık %3 artırdı. Şaşırtma (perplexity) ile ölçülen çıktı kalitesi aynı kaldı. Yamaya anyei ve ortak yazarları katkıda bulundu.

Neden önemli

llama.cpp’yi V100 GPU’larda kullananlar, doğruluktan ödün vermeden modelleri biraz daha hızlı çalıştırabilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.