Oossa

llama.cpp 新版加入对 Nemotron‑3(.5)‑Embed 的支持

开源库 llama.cpp(v b11778)现已支持运行 Nemotron‑3(.5)‑Embed,并提供适用于 macOS、iOS、Linux、Vulkan 和 CUDA 的二进制文件。

简讯作者: Oossa 发布日期: 1 分钟阅读

ggml‑org 发布了 llama.cpp b11778 版。新版加入了对 Nemotron‑3(.5)‑Embed 这一文本嵌入模型的支持,并提供适用于 Apple Silicon 和 Intel 芯片 Mac、iOS 以及多个 Ubuntu 版本的预编译二进制文件,其中包括 Vulkan 和 CUDA‑12.8 GPU 版本。用户可通过 GitHub 发布页面上的直链下载这些文件。

为什么重要

开发者现在可以在多种设备上本地运行 Nemotron‑3(.5)‑Embed,无需依赖云服务。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。