ggml‑org 发布了 llama.cpp b11539 版。这款轻量级大语言模型运行工具可在多种设备上运行。新版提供多个二进制压缩包，适用于 macOS Apple Silicon、macOS Intel 和 iOS XCFramework；Ubuntu 版本则涵盖 CPU、Vulkan 和 CUDA 12.8。下载链接已发布在 GitHub 版本页面。
为什么重要
开发者现在无需自行编译，就能在更多硬件上本地运行 llama.cpp。
llama.cpp 发布适用于 macOS、Linux 和 iOS 的新二进制包
这款开源大语言模型运行时新增预编译包，支持 Apple Silicon、Intel Mac、Ubuntu CPU、Vulkan 和 CUDA 12.8。
简讯作者： OossaOossa 发布日期: 最后更新: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。