Команда ggml-org выпустила тег b12322 для llama.cpp 12 ноября 2026 года. Изменение касается резервирования метаданных для результатов графа: теперь выделяются только необходимые страницы, а не инициализируется весь зарезервированный объём. Благодаря этому во время инференса библиотека обращается к меньшему объёму оперативной памяти.
Обновление доступно для всех перечисленных платформ — от macOS и Windows на CPU до сборок для Linux с CUDA, Vulkan и OpenVINO.
Почему это важно
Разработчики, запускающие модели LLaMA на устройствах с ограниченной памятью, смогут снизить расход оперативной памяти — это позволит использовать более крупные модели или комфортнее работать в нескольких приложениях одновременно.
