14 ноября 2026 года вышла версия b12385 библиотеки llama.cpp с открытым исходным кодом. Обновление исправляет ошибку в модели Qwen2VL: коэффициенты масштабирования для слоёв прямого распространения не применялись. В результате модель выдавала бессмысленные ответы: perplexity составляла около 1 e6 на CUDA, а на CPU возникало значение NaN. Исправление передаёт правильные коэффициенты в процедуру сборки и восстанавливает нормальную работу модели.
Почему это важно
Разработчики, использующие llama.cpp, теперь могут надёжно запускать Qwen2VL и не получать некорректные результаты в своих приложениях.
