Il progetto llama.cpp ha rilasciato un piccolo aggiornamento CUDA il 2026-10-02. La modifica fa sì che i GPU Volta (sm_70) utilizzino la stessa tabella di ottimizzazione MMVQ dei GPU Turing. Su una Tesla V100 32 GB ha aumentato di circa il 3 % la velocità di elaborazione del modello Qwen3.8‑27B. La qualità dell’output, misurata in base alla perplexity, è rimasta invariata. La patch è stata proposta da anyei e coautori.
Perché conta
Chi usa llama.cpp su GPU V100 può eseguire i modelli un po’ più velocemente senza perdere accuratezza.
