Oossa

llama.cpp b11721新增GPU内核融合与平台构建版本

这款开源大语言模型运行时于2026年10月18日发布预发行版,将多个GPU内核合并,并扩展了支持的平台。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org/llama.cpp项目于2026年10月18日发布了标签为b11721的新预发行版。该版本将Qwen4exp的scale-sigmoid-scale运算链融合为一个CUDA内核,并新增Vulkan HC_POST_GATE融合,将GPU内核数量从4个减少到1个。发行说明还列出了面向多种CPU和GPU的构建版本,包括Apple Silicon、AMD、NVIDIA CUDA 12-13、ROCm、OpenVINO以及Android Snapdragon平台。

为什么重要

新的内核融合让开发者能够在更多硬件上更快地运行大语言模型。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。