ggml-org 团队于 2026 年 10 月 19 日发布 llama.cpp b11723。此次更新改进了 FLASH_ATTN_EXT,以支持更长的上下文窗口和 SWA 模型,并加入跳过掩码块的功能,减少内存读取。现在,macOS(Apple Silicon 和 Intel)、iOS 以及多个 Ubuntu 版本均可下载二进制构建,其中包括支持 Vulkan GPU 的版本。这些改动旨在提升 gemma-4 等模型的性能。
为什么重要
开发者可以在桌面 CPU 和兼容 GPU 上更高效地运行支持更长上下文的 LLM。