Le projet llama.cpp a publié une petite mise à jour CUDA le 2026-10-02. Elle permet aux GPU Volta (sm_70) d’utiliser la même table de réglage MMVQ que les GPU Turing. Sur un Tesla V100 32 GB, cette modification a augmenté le débit d’environ 3 % avec le modèle Qwen3.8‑27B. La qualité des résultats, mesurée par la perplexité, est restée identique. Le correctif a été proposé par anyei et ses co-auteurs.
Pourquoi c'est important
Les utilisateurs de llama.cpp sur GPU V100 peuvent exécuter les modèles un peu plus vite sans perte de précision.
