Библиотека с открытым исходным кодом llama.cpp выпустила версию b11706 2026-10-17. Обновление исправляет регрессию при обработке промптов в SYCL, возникшую после изменения порядка весов в форматах Q4_0/Q8_0. Также вышли новые готовые бинарные сборки для Apple Silicon и Intel на macOS, iOS и различных конфигураций Linux, включая CPU, Vulkan и CUDA 12.8. Скачать сборки можно на странице релиза на GitHub.
Почему это важно
Разработчики теперь могут запускать llama.cpp на графических процессорах с поддержкой SYCL без ошибок при обработке промптов, что расширяет выбор оборудования для локального использования больших языковых моделей.
