Команда ggml‑org выпустила llama.cpp версии b11688 2026-10-16. В обновлении появилась оптимизация только для CPU: сокращено число блочных аккумуляторов AVX2. По словам разработчиков, это ускоряет инференс. Доступны готовые бинарные файлы для macOS, iOS, Linux, Vulkan и CUDA — для разных типов оборудования. В описании изменения указано, что оно выполнено при содействии Codex — модели OpenAI для генерации кода.
Почему это важно
Разработчики смогут запускать модели llama.cpp быстрее на CPU с AVX2 без пересборки кода.
