ggml‑org/llama.cpp 库于 2026年10月20日发布 b11755。此次更新补上了缺失的 Metal 内核变体,可支持混合专家(MoE)模型中每个 token 对应 9 位专家。macOS(Apple Silicon 和 Intel)、iOS,以及多个 Ubuntu 版本(CPU、Vulkan、CUDA 12)的二进制文件现已开放下载。
为什么重要
开发者现在可以在 Apple Silicon GPU 上运行基于 MoE 的大语言模型,macOS 设备可选用的模型也随之增加。
开源项目 llama.cpp 于 2026年10月20日发布 b11755,修复了 MoE 模型所需的 Metal GPU 内核。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml‑org/llama.cpp 库于 2026年10月20日发布 b11755。此次更新补上了缺失的 Metal 内核变体,可支持混合专家(MoE)模型中每个 token 对应 9 位专家。macOS(Apple Silicon 和 Intel)、iOS,以及多个 Ubuntu 版本(CPU、Vulkan、CUDA 12)的二进制文件现已开放下载。
开发者现在可以在 Apple Silicon GPU 上运行基于 MoE 的大语言模型,macOS 设备可选用的模型也随之增加。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。