Oossa

Unsloth新增Flint、MOSS-Image和Nemotron Bolt 4B

Unsloth于10月23日发布新版,新增三款模型的本地运行支持,并推出仅含聊天功能的桌面安装版本和本地模型微调API。

作者: Oossa 发布日期: 1 分钟阅读

Daniel Eliashevskyi · Unsplash

Unsloth 0.1.910-beta新增对Recursive的Flint、OpenMOSS的MOSS-Image以及NVIDIA的Nemotron Bolt 4B的支持。发布说明称,用户可以通过Unsloth在本地运行这些模型。新版还增加了体积更小、仅支持聊天功能的Unsloth Desktop安装选项;用户之后可以在“设置”中添加训练功能。

Flint是一款拥有400亿参数的混合专家模型,这种设计会针对每项任务只激活部分参数。Unsloth称,Flint每次会激活25亿个参数,支持256,000-token上下文;在短上下文场景下,采用3-bit量化时可在24 GB内存中运行。发布说明称,Flint在SWE-bench Pro v2上的得分为89.7,高于Qwen 3.6的73.8,但未提供测试设置,也未说明评测由谁执行。

图像生成与本地微调

MOSS-Image是一款拥有51亿参数的图像模型,可以生成包含英文或中文文字的图像。Unsloth称,该模型可在配备16 GB内存的GPU上运行;其GGUF版本也能在Mac和没有受支持GPU的电脑上运行。发布说明未提供图像质量对比或性能数据。

Nemotron Bolt 4B是NVIDIA基于Gemma 4 E4B调整的推理模型,面向工具调用和指令遵循。Unsloth称,该模型在Tau2-Bench上的得分为63.2,而原始模型为38.7;此外,Gemma Nemotron 4B在NVIDIA的21项测试中有16项优于Gemma 4 E4B。这些结果来自发布说明,原文未提供测试设置或独立验证。

对于训练模型的用户,Unsloth还表示,其新推出的微调API可与OpenAI的SDK配合使用,用于上传数据集并在本地模型上进行监督式微调。发布说明称,Unsloth Desktop免费且开源,并提供Windows、macOS和Linux版本下载。

为什么重要

据发布说明,配备16 GB GPU的用户或可通过Unsloth使用MOSS-Image生成包含英文或中文文字的图像。Flint可在24 GB内存中运行的说法,仅适用于3-bit量化和短上下文;发布说明也未提供独立测试结果或足够的测试设置,因此无法可靠地比较其基准测试得分。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。