Unsloth 0.1.910-beta新增对Recursive的Flint、OpenMOSS的MOSS-Image以及NVIDIA的Nemotron Bolt 4B的支持。发布说明称,用户可以通过Unsloth在本地运行这些模型。新版还增加了体积更小、仅支持聊天功能的Unsloth Desktop安装选项;用户之后可以在“设置”中添加训练功能。
Flint是一款拥有400亿参数的混合专家模型,这种设计会针对每项任务只激活部分参数。Unsloth称,Flint每次会激活25亿个参数,支持256,000-token上下文;在短上下文场景下,采用3-bit量化时可在24 GB内存中运行。发布说明称,Flint在SWE-bench Pro v2上的得分为89.7,高于Qwen 3.6的73.8,但未提供测试设置,也未说明评测由谁执行。
图像生成与本地微调
MOSS-Image是一款拥有51亿参数的图像模型,可以生成包含英文或中文文字的图像。Unsloth称,该模型可在配备16 GB内存的GPU上运行;其GGUF版本也能在Mac和没有受支持GPU的电脑上运行。发布说明未提供图像质量对比或性能数据。
Nemotron Bolt 4B是NVIDIA基于Gemma 4 E4B调整的推理模型,面向工具调用和指令遵循。Unsloth称,该模型在Tau2-Bench上的得分为63.2,而原始模型为38.7;此外,Gemma Nemotron 4B在NVIDIA的21项测试中有16项优于Gemma 4 E4B。这些结果来自发布说明,原文未提供测试设置或独立验证。
对于训练模型的用户,Unsloth还表示,其新推出的微调API可与OpenAI的SDK配合使用,用于上传数据集并在本地模型上进行监督式微调。发布说明称,Unsloth Desktop免费且开源,并提供Windows、macOS和Linux版本下载。
为什么重要
据发布说明,配备16 GB GPU的用户或可通过Unsloth使用MOSS-Image生成包含英文或中文文字的图像。Flint可在24 GB内存中运行的说法,仅适用于3-bit量化和短上下文;发布说明也未提供独立测试结果或足够的测试设置,因此无法可靠地比较其基准测试得分。