ggml‑org发布了llama.cpp b12088版本。本次更新支持NVFP4 LFM3模型格式,并提供适用于Apple Silicon、Intel macOS、iOS以及多种Ubuntu配置的预编译二进制文件,其中包括仅支持CPU和基于Vulkan的版本。macOS Apple Silicon版(含KleidiAI)也已列出,但目前处于禁用状态。所有文件均可从GitHub发布页面下载。
为什么重要
开发者现在可以在llama.cpp中运行这种新模型格式,也能使用适配更多平台的现成二进制文件,从而减少配置所需的时间。