ggml‑org 团队于 2026 年 11 月 13 日发布 llama.cpp b12363 版本。本次更新为 Vulkan 后端新增可选的设备保活设置，用户可指定 GPU 在关闭前保持运行的时长。此次改动将设备的所有权交由后端管理，并简化了代码。该版本还提供适用于 macOS、iOS 和多个 Ubuntu 变体的预编译二进制文件。
为什么重要
开发者可以在 GPU 上连续运行多次模型调用，避免代价高昂的重新初始化，从而提升本地 AI 应用的响应速度。
llama.cpp 新版本新增 Vulkan 设备保活选项
开源库 llama.cpp（v b12363）现可设置 Vulkan 后端保持 GPU 设备运行的时长，减少重复推理调用的开销。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。