# llama.cpp 新增支持量化 K/V 的 Vulkan 稀疏 Flash Attention

> 这款开源大语言模型运行时现已支持基于 Vulkan 的稀疏 Flash Attention，可处理量化 K/V 数据。

Oossa · 2026-10-05 · https://oossa.com/zh/llama-cpp-adds-vulkan-sparse-flash-attention-for-quantized-keys-and-values

ggml‑org 团队于 2026年10月5日发布 llama.cpp b11413 版本。此次更新新增了基于 Vulkan、支持量化键值张量的稀疏 Flash Attention 实现。该功能被描述为“面向量化 K/V 的稀疏 Flash Attention”，旨在用于 GPU 加速推理。此次发布还列出了多个平台的构建版本，涵盖搭载 Apple Silicon 的 macOS，以及支持 CUDA 和 Vulkan 的 Windows。

## 事实

- 版本 b11413 于 2026年10月5日（周一）发布
- 新增功能：面向量化 K/V 的 Vulkan 稀疏 Flash Attention

## 为什么重要

开发者现在可以在支持 Vulkan 的 GPU 上更快地运行量化模型，从而降低边缘设备的计算成本。

## 来源与参考

1. [ggml-org/llama.cpp b11413](https://github.com/ggml-org/llama.cpp/releases/tag/b11413) – llama.cpp, 2026-10-05

最后更新: 2026-10-05