El proyecto llama.cpp publicó una pequeña actualización de CUDA el 2026-10-02. El cambio hace que las GPU Volta (sm_70) usen la misma tabla de ajuste MMVQ que las GPU Turing. En una Tesla V100 de 32 GB, aumentó el rendimiento alrededor de un 3 % con el modelo Qwen3.8‑27B. La calidad de los resultados, medida por la perplejidad, se mantuvo igual. El parche fue aportado por anyei y sus coautores.
Por qué importa
Quienes usan llama.cpp en GPU V100 pueden ejecutar modelos un poco más rápido sin perder precisión.
