llama.cpp 项目发布了新版本，可在普通 CPU 上加载并运行 SenseNova U1 密集理解分支，包括 U1.5‑8B‑MoT 模型。新版本还加入了模型视觉编码器的转换工具，支持任意分辨率的图像输入。生成分支目前仍无法使用，因此此次更新仅支持理解任务。这些改动由 Hugging Face 的 Sigbjørn Skjæret 共同编写。
为什么重要
现在，CPU 用户无需 GPU，也能运行支持高分辨率图像的 SenseNova U1 视觉模型。
llama.cpp 新增对 SenseNova U1 模型的支持
开源库 llama.cpp 现可在 CPU 上运行 SenseNova U1 密集理解模型和视觉模型。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。