2 октября 2026 года проект llama.cpp выпустил небольшое обновление CUDA. Теперь GPU Volta (sm_70) используют ту же таблицу настройки MMVQ, что и GPU Turing. На Tesla V100 32 GB изменение повысило пропускную способность примерно на 3 % при работе с моделью Qwen3.8‑27B. Качество вывода, измеренное по показателю perplexity, не изменилось. Патч внесли anyei и соавторы.
Почему это важно
Пользователи llama.cpp на GPU V100 смогут запускать модели немного быстрее без потери точности.