ggml‑org/llama.cpp 项目于 2026‑11‑13 发布新版本。此次更新为 Vulkan GPU 后端加入 TOP_K_MASK 操作,修复了该掩码相关的屏障问题,并在通用头文件中声明了该函数。这些改动是在 Claude Opus 5.5 的协助下完成的。
为什么重要
GPU 用户现在可以在推理过程中应用 top-k 掩码,从而更精细地控制 token 选择。
开源库 llama.cpp 更新了 Vulkan 支持,加入 TOP_K_MASK 功能,并修复了相关屏障问题、补充了头文件声明。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml‑org/llama.cpp 项目于 2026‑11‑13 发布新版本。此次更新为 Vulkan GPU 后端加入 TOP_K_MASK 操作,修复了该掩码相关的屏障问题,并在通用头文件中声明了该函数。这些改动是在 Claude Opus 5.5 的协助下完成的。
GPU 用户现在可以在推理过程中应用 top-k 掩码,从而更精细地控制 token 选择。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。