Das llama.cpp-Projekt hat am 2026-10-02 ein kleines CUDA-Update veröffentlicht. Damit verwenden Volta-GPUs (sm_70) dieselbe MMVQ-Tuning-Tabelle wie Turing-GPUs. Auf einer Tesla V100 32 GB steigerte die Änderung den Durchsatz beim Modell Qwen3.8‑27B um rund 3 %. Die Ausgabequalität, gemessen anhand der Perplexität, blieb unverändert. Der Patch stammt von anyei und Mitwirkenden.
Warum es wichtig ist
Wer llama.cpp auf einer V100-GPU nutzt, kann Modelle etwas schneller ausführen, ohne Einbußen bei der Genauigkeit.
