ggml‑org 发布了 llama.cpp b12362 版。本次更新加入左因子化,以加快语法匹配;新增用于解析的抽象语法树,并限制备选规则数量。为保持解析器稳定,部分近期提交已回退。新版构建支持多种平台,包括搭载 Apple Silicon 的 macOS 和 Windows CUDA 13。
发行说明列出了对 Linux、Android、Windows 的支持,以及 Vulkan 和 OpenCL 等多种 GPU 后端。
为什么重要
开发者可以在多种设备上运行 LLM,并获得更快、更可靠的语法处理能力。