开源库 llama.cpp 于 2026-10-17 发布 b11706 版本。此次更新修复了 Q4_0/Q8_0 格式权重重新排序后出现的 SYCL 提示词处理回归问题,同时提供适用于 macOS Apple Silicon、Intel、iOS 以及多种 Linux 配置(包括 CPU、Vulkan 和 CUDA 12.8)的新预编译二进制文件。可前往 GitHub 发布页面下载。
为什么重要
开发者现在可以在兼容 SYCL 的 GPU 上运行 llama.cpp,避免提示词处理错误,为本地运行大语言模型提供更多硬件选择。