В версии Unsloth 0.1.910-beta появилась поддержка Flint от Recursive, MOSS-Image от OpenMOSS и Nemotron Bolt 4B от NVIDIA. В релизе говорится, что модели можно запускать локально через Unsloth. Также доступна облегчённая версия Unsloth Desktop только для чата; функции обучения можно добавить позже в настройках.
Flint — модель на 40 миллиардов параметров с архитектурой «смесь экспертов»: для каждой задачи задействуется лишь часть параметров. По данным Unsloth, у Flint активны 2,5 миллиарда параметров, модель поддерживает контекст длиной 256 000 токенов и при 3-битном квантовании помещается в 24 ГБ памяти при коротком контексте. В релизе указан результат 89,7 в SWE-bench Pro v2 — против 73,8 у Qwen 3.6, однако не приведены настройки тестирования и не указано, кто проводил оценку.
Генерация изображений и локальное дообучение
MOSS-Image — модель для генерации изображений на 5,1 миллиарда параметров. Она умеет создавать изображения с текстом на английском или китайском. По данным Unsloth, модель работает на видеокартах с 16 ГБ памяти; версии GGUF также можно запускать на Mac и компьютерах без поддерживаемой видеокарты. В релизе нет сравнений качества изображений и данных о производительности.
Nemotron Bolt 4B — ориентированная на рассуждения версия Gemma 4 E4B от NVIDIA, предназначенная для работы с инструментами и выполнения инструкций. По данным Unsloth, модель набрала 63,2 балла в Tau2-Bench против 38,7 у исходной модели. Компания также утверждает, что Gemma Nemotron 4B превзошла Gemma 4 E4B в 16 из 21 теста NVIDIA. Эти результаты приведены в релизе; настроек тестирования и независимой проверки нет.
Для тех, кто обучает модели, Unsloth также заявляет, что новый API для дообучения совместим с SDK OpenAI: с его помощью можно загружать наборы данных и запускать контролируемое дообучение локальных моделей. В релизе Unsloth Desktop описывается как бесплатное ПО с открытым исходным кодом; приложение доступно для Windows, macOS и Linux.
Почему это важно
По данным релиза, владельцы видеокарт с 16 ГБ памяти могут использовать MOSS-Image в Unsloth для генерации изображений с текстом на английском или китайском. Указанные для Flint 24 ГБ памяти требуются только при 3-битном квантовании и коротком контексте. Релиз не содержит независимых результатов тестирования и достаточных сведений о настройках, чтобы надёжно сравнить показатели моделей.
