# llama.cpp ускоряет работу KV-кэша на Vulkan

> В библиотеке Llama.cpp с открытым исходным кодом появилась поддержка деквантизированного KV-кэша на видеокартах с Vulkan — это ускорит работу с некоторыми головами моделей.

Oossa · 2026-11-11 · https://oossa.com/ru/llama-cpp-adds-vulkan-kv-dequantization-optimization

Команда ggml-org выпустила llama.cpp версии b12291. В обновлении появилась оптимизация на базе Vulkan: она деквантизирует KV-кэш с помощью инструкции coopmat2. Оптимизация применяется, только если эвристика на основе числа токенов запроса и коэффициента GQA считает это безопасным. В обновлении также исправлена обработка выравнивания для некоторых размеров голов, что повышает производительность, когда оптимизацию применить нельзя.

## Факты

- Релиз b12291 опубликован 2026-11-11
- Добавлена оптимизация деквантизации KV-кэша для видеокарт с Vulkan

## Почему это важно

Разработчики, запускающие модели Llama на оборудовании с поддержкой Vulkan, смогут ускорить инференс без изменений в коде.

## Источники и ссылки

1. [ggml-org/llama.cpp b12291](https://github.com/ggml-org/llama.cpp/releases/tag/b12291) – llama.cpp, 2026-11-11

Обновлено: 2026-11-11