ggml-org 发布了 llama.cpp b11556 版本。此次更新新增对 Prism Bonsai 2 27B 模型的运行时支持，还修复了 Hadamard 张量处理问题，并清理了转换代码。该版本提供 macOS（Apple Silicon 和 Intel）及 Ubuntu（x64、arm64、s390x）的预编译二进制文件。
为什么重要
开发者现在可以在自己的设备上本地运行拥有 270 亿参数的 Prism Bonsai 2 大模型。
llama.cpp新增对 Prism Bonsai 2 27B 模型的支持
开源库 llama.cpp（v b11556）现可在 macOS 和 Linux 上运行拥有 270 亿参数的 Prism Bonsai 2 模型。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。