Библиотека с открытым исходным кодом llama.cpp выпустила версию b11635 15 октября 2026 года. В ней изменён код для процессоров x86 с поддержкой набора инструкций F16C: таблица преобразования FP16 в FP32 остаётся в коде. Предыдущее изменение направляло оба скалярных преобразования через F16C, из-за чего производительность ядер умножения матриц Q8_0/Q4_0 снижалась на 45–65 %. Исправление отключает проблемное определение и возвращает исходную таблицу для преобразований FP16→FP32.
Почему это важно
После обновления разработчики, использующие llama.cpp на процессорах Intel, получат заметно более быстрый вывод результатов модели.
