Команда ggml-org выпустила llama.cpp версии b12363 13 ноября 2026 года. В обновлении появилась опциональная настройка удержания устройства в Vulkan-бэкенде: пользователь может указать, сколько времени GPU останется активным перед отключением. Теперь за устройство отвечает бэкенд, что упрощает код. В комплект входят готовые бинарные файлы для macOS, iOS и нескольких вариантов Ubuntu.
Почему это важно
Разработчики смогут запускать повторные запросы к модели на GPU без затратной повторной инициализации, ускоряя отклик локальных ИИ-приложений.
