Oossa

llama.cpp b11806 支持 LoRA 权重并新增预编译程序包

这款开源大语言模型运行时于 2026 年 10 月 22 日发布,新增 LoRA prism.hadamard 权重支持,并推出适用于 macOS、iOS 和 Linux 的程序包。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队发布了 llama.cpp b11806 版本。该版本新增对 LoRA prism.hadamard 折叠权重的支持,这是一种提升微调效率的技术。新版还提供适用于 Apple Silicon、Intel Mac、iOS 以及多个 Linux 版本的预编译程序包,包括 CPU、Vulkan 和 CUDA 版本。用户可前往 GitHub 发布页面下载相应程序包。

为什么重要

开发者现在可以在更多平台上更快地运行经过 LoRA 微调的模型,无需自行编译代码。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。