ggml-org 团队发布了 llama.cpp b11806 版本。该版本新增对 LoRA prism.hadamard 折叠权重的支持,这是一种提升微调效率的技术。新版还提供适用于 Apple Silicon、Intel Mac、iOS 以及多个 Linux 版本的预编译程序包,包括 CPU、Vulkan 和 CUDA 版本。用户可前往 GitHub 发布页面下载相应程序包。
为什么重要
开发者现在可以在更多平台上更快地运行经过 LoRA 微调的模型,无需自行编译代码。
这款开源大语言模型运行时于 2026 年 10 月 22 日发布,新增 LoRA prism.hadamard 权重支持,并推出适用于 macOS、iOS 和 Linux 的程序包。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml-org 团队发布了 llama.cpp b11806 版本。该版本新增对 LoRA prism.hadamard 折叠权重的支持,这是一种提升微调效率的技术。新版还提供适用于 Apple Silicon、Intel Mac、iOS 以及多个 Linux 版本的预编译程序包,包括 CPU、Vulkan 和 CUDA 版本。用户可前往 GitHub 发布页面下载相应程序包。
开发者现在可以在更多平台上更快地运行经过 LoRA 微调的模型,无需自行编译代码。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。