Команда ggml-org выпустила llama.cpp версии b11890 26 октября 2026 года. В обновлении упорядочен код для DeepSeek V4, некоторые параметры моделей перенесены в общую конфигурацию, а неиспользуемые классы моделей удалены. Также расширена поддержка оборудования: добавлены библиотеки CUDA 12 и 13, а также бэкенды Vulkan, ROCm и OpenVINO для Linux, Windows и macOS. Благодаря этим изменениям разработчики смогут быстрее запускать более крупные модели на большем числе GPU и устройств с NPU.
Почему это важно
Разработчики смогут запускать модели DeepSeek V4 на более широком спектре GPU, реже прибегая к облачному инференсу.
