ggml‑org 团队发布了 llama.cpp b11465 版,包含适用于 macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS 以及多种 Ubuntu 配置(CPU、Vulkan 和 CUDA 12.8)的预编译二进制文件。此次更新还调整了一项测试,以便在测试循环回滚时保留锚点。所有文件均可从 GitHub 发布页面下载。
为什么重要
开发者现在无需自行编译代码,就能在更多硬件上本地运行 LLM。
这款开源 LLM 推理库为 Apple Silicon、Intel Mac 和多种 Ubuntu 配置推出了新版预编译文件。
简讯作者: OossaOossa 发布日期: 1 分钟阅读
ggml‑org 团队发布了 llama.cpp b11465 版,包含适用于 macOS Apple Silicon(arm64)、macOS Intel(x64)、iOS 以及多种 Ubuntu 配置(CPU、Vulkan 和 CUDA 12.8)的预编译二进制文件。此次更新还调整了一项测试,以便在测试循环回滚时保留锚点。所有文件均可从 GitHub 发布页面下载。
开发者现在无需自行编译代码,就能在更多硬件上本地运行 LLM。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。