3 октября 2026 года библиотека llama.cpp получила версию b11366. В ней исправлена ошибка, из-за которой при поиске масштаба квантования могли появляться бесконечные значения или NaN, приводившие к срабатыванию утверждения в отладочных сборках. Исправление ограничивает уровень квантования безопасным диапазоном перед округлением. Для нескольких типов квантования добавлены регрессионные тесты. Изменение действует на всех поддерживаемых платформах — от macOS до Windows и Linux.
Почему это важно
Разработчики, использующие llama.cpp, будут реже сталкиваться со сбоями при отладке квантованных моделей, что повысит стабильность работы в процессе разработки.