Команда ggml-org выпустила llama.cpp версии b11723 19 октября 2026 года. В обновлении улучшили FLASH_ATTN_EXT для работы с более длинным контекстом и моделями SWA, а также добавили пропуск маскированных блоков, чтобы сократить число обращений к памяти. Готовые сборки доступны для macOS (Apple Silicon и Intel), iOS и нескольких вариантов Ubuntu, в том числе с поддержкой GPU Vulkan. Изменения призваны повысить производительность таких моделей, как gemma-4.
Почему это важно
Разработчики смогут эффективнее запускать LLM с большим контекстом на настольных CPU и совместимых GPU.