Oossa

Ollama 发布 0.40.6-rc0 版本

这款开源模型运行工具新增张量类型、支持在云端启动,并修复了 Windows 运行器问题。

简讯作者: Oossa 发布日期: 最后更新: 1 分钟阅读

Ollama 发布了其模型服务工具 0.40.6-rc0 版本。此次更新可避免 Windows 运行器进程遗留,新增两种 GGUF 张量/文件类型(q2_0),并支持在 Ollama 云端启用 Clef 界面。此外,更新还为 –ask 模式中的问题键引入了标识符。具体变更见 GitHub 发布说明。

为什么重要

开发者现在可以在 Windows 上运行 Ollama,而不会留下多余进程;还可以使用更新、更小的张量来加快推理速度。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。