ggml-org ekibi, WebGPU arka ucuna Q2_0 desteği ekleyen llama.cpp b11809’u yayımladı. Sürüm notlarına göre değişiklik, hem satır dekuantizasyonunu hem de matris çarpımını kapsıyor. Hız, donanım uyumluluğu veya bellek kullanımıyla ilgili sonuçlar paylaşılmadığı için performansa pratik etkisi belirsiz.
Neden önemli
llama.cpp’yi WebGPU ile kullanan geliştiriciler Q2_0 modellerini deneyebilir; ancak sürüm notları bu modellerin belirli cihazlarda ne kadar iyi çalışacağını belirtmiyor.