llama.cpp 新增支持量化 K/V 的 Vulkan 稀疏 Flash Attention

这款开源大语言模型运行时现已支持基于 Vulkan 的稀疏 Flash Attention，可处理量化 K/V 数据。

简讯作者： OossaOossa 发布日期: 2026年10月5日 11:09 UTC1 分钟阅读

ggml‑org 团队于 2026年10月5日发布 llama.cpp b11413 版本。此次更新新增了基于 Vulkan、支持量化键值张量的稀疏 Flash Attention 实现。该功能被描述为“面向量化 K/V 的稀疏 Flash Attention”，旨在用于 GPU 加速推理。此次发布还列出了多个平台的构建版本，涵盖搭载 Apple Silicon 的 macOS，以及支持 CUDA 和 Vulkan 的 Windows。