Het llama.cpp-project bracht op 2026-10-02 een kleine CUDA-update uit. Volta-gpu’s (sm_70) gebruiken daardoor dezelfde MMVQ-afstemmingstabel als Turing-gpu’s. Op een Tesla V100 32 GB leverde de wijziging voor het model Qwen3.8‑27B ongeveer 3 % meer doorvoer op. De uitvoerkwaliteit, gemeten aan de hand van perplexiteit, bleef gelijk. De patch is bijgedragen door anyei en coauteurs.
Waarom het ertoe doet
Gebruikers die llama.cpp op V100-gpu’s draaien, kunnen modellen iets sneller uitvoeren zonder nauwkeurigheid te verliezen.
