Oossa

llama.cpp 为 Vulkan 后端新增 TOP_K_MASK

开源库 llama.cpp 更新了 Vulkan 支持,加入 TOP_K_MASK 功能,并修复了相关屏障问题、补充了头文件声明。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org/llama.cpp 项目于 2026‑11‑13 发布新版本。此次更新为 Vulkan GPU 后端加入 TOP_K_MASK 操作,修复了该掩码相关的屏障问题,并在通用头文件中声明了该函数。这些改动是在 Claude Opus 5.5 的协助下完成的。

为什么重要

GPU 用户现在可以在推理过程中应用 top-k 掩码,从而更精细地控制 token 选择。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。