ggml-org/llama.cpp项目于2026年10月18日发布了标签为b11721的新预发行版。该版本将Qwen4exp的scale-sigmoid-scale运算链融合为一个CUDA内核,并新增Vulkan HC_POST_GATE融合,将GPU内核数量从4个减少到1个。发行说明还列出了面向多种CPU和GPU的构建版本,包括Apple Silicon、AMD、NVIDIA CUDA 12-13、ROCm、OpenVINO以及Android Snapdragon平台。
为什么重要
新的内核融合让开发者能够在更多硬件上更快地运行大语言模型。