Oossa

llama.cpp b11471新增词元并提供预编译二进制文件

开源库 llama.cpp 发布 b11471 版,新增词汇表词元,并提供适用于 macOS、iOS 和 Linux 的预编译二进制文件。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml-org 团队发布了 llama.cpp b11471 版。该版本为模型词汇表新增一组 30090 个 plamo fim 词元。此次发布还提供可直接运行的二进制文件,适用于 macOS Apple Silicon、macOS Intel、iOS,以及多个 Linux 构建版本(CPU、Vulkan、CUDA 12.8)。用户可从 GitHub 发布页面下载对应的软件包。

为什么重要

开发者现在无需从源代码构建,就能在更多设备上本地运行 llama.cpp,从而节省时间并简化测试。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。