# llama.cpp добавила разреженное flash-внимание Vulkan для квантованных K/V

> В среде выполнения LLM с открытым исходным кодом появился режим разреженного flash-внимания на базе Vulkan для квантованных данных K/V.

Oossa · 2026-10-05 · https://oossa.com/ru/llama-cpp-adds-vulkan-sparse-flash-attention-for-quantized-keys-and-values

Команда ggml-org выпустила llama.cpp версии b11413 5 октября 2026 года. В обновлении появилась реализация разреженного flash-внимания для Vulkan, работающая с квантованными тензорами ключей и значений. Изменение описано как «разреженное flash-внимание для квантованных K/V» и предназначено для инференса с ускорением на GPU. В релизе также перечислены сборки для множества платформ — от macOS на Apple Silicon до Windows с CUDA и Vulkan.

## Факты

- Релиз версии b11413 опубликован в понедельник, 5 октября 2026 года
- Новая функция: разреженное flash-внимание Vulkan для квантованных K/V

## Почему это важно

Теперь разработчики могут быстрее запускать квантованные модели на GPU с поддержкой Vulkan, снижая вычислительные затраты на устройствах периферийных вычислений.

## Источники и ссылки

1. [ggml-org/llama.cpp b11413](https://github.com/ggml-org/llama.cpp/releases/tag/b11413) – llama.cpp, 2026-10-05

Обновлено: 2026-10-05