Oossa

llama.cpp b12088新增NVFP4 LFM3支持和多平台二进制文件

这款开源大语言模型运行时推出适用于macOS、iOS及多个Ubuntu版本的更新版二进制文件,并新增NVFP4 LFM3模型选项。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org发布了llama.cpp b12088版本。本次更新支持NVFP4 LFM3模型格式,并提供适用于Apple Silicon、Intel macOS、iOS以及多种Ubuntu配置的预编译二进制文件,其中包括仅支持CPU和基于Vulkan的版本。macOS Apple Silicon版(含KleidiAI)也已列出,但目前处于禁用状态。所有文件均可从GitHub发布页面下载。

为什么重要

开发者现在可以在llama.cpp中运行这种新模型格式,也能使用适配更多平台的现成二进制文件,从而减少配置所需的时间。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。