Projektet llama.cpp släppte en mindre CUDA-uppdatering den 2026-10-02. Den gör att Volta-GPU:er (sm_70) använder samma MMVQ-inställningstabell som Turing-GPU:er. På en Tesla V100 32 GB ökade ändringen genomströmningen med ungefär 3 % för modellen Qwen3.8‑27B. Utdatans kvalitet, mätt med perplexitet, var oförändrad. Patchen bidrog med anyei och medförfattare.
Varför det spelar roll
Den som kör llama.cpp på V100-GPU:er kan köra modeller lite snabbare utan att förlora träffsäkerhet.