30 сентября 2026 года вышла версия b11284 библиотеки с открытым исходным кодом llama.cpp. В обновлении изменена обработка представлений весов в OpenVINO: исправлена ошибка, из-за которой операция GET_ROWS отклонялась и некоторые квантованные модели не работали. Теперь смещения строк учитываются в индексах выборки, поэтому представление обрабатывается как обычная константа. В релизе также перечислен широкий набор новых целей сборки — от macOS на Apple Silicon до CUDA 13 в Linux и Windows.
Почему это важно
Благодаря этому исправлению больше квантованных моделей LLaMA смогут работать на устройствах с поддержкой OpenVINO без ошибок.
