ggml‑org团队发布了llama.cpp b12361版。此次更新将MOE缓存代码移出内部计算图处理模块,并提供适用于macOS(Apple Silicon和Intel)、iOS以及多个Ubuntu版本的全新预编译二进制文件,其中包括CPU和Vulkan版本。另有一个启用了KleidiAI的macOS Apple Silicon二进制文件,但目前已禁用。所有文件均可从GitHub发布页面下载。
为什么重要
开发者现在无需从源代码构建,就能在更多平台上本地运行llama.cpp,从而加快试验进度。