La versione 0.1.910-beta di Unsloth aggiunge il supporto a Flint di Recursive, MOSS-Image di OpenMOSS e Nemotron Bolt 4B di NVIDIA. La release afferma che gli utenti possono eseguire i modelli in locale tramite Unsloth. Introduce anche un’installazione più leggera di Unsloth Desktop, dedicata solo alla chat; in seguito gli utenti possono aggiungere le funzionalità di training dalle Impostazioni.
Flint è un modello mixture-of-experts da 40 miliardi di parametri, un’architettura che attiva solo una parte dei parametri per ogni attività. Secondo Unsloth, Flint usa 2,5 miliardi di parametri attivi, supporta un contesto di 256.000 token e, con quantizzazione a 3 bit, può entrare in 24 GB di memoria quando si usano contesti brevi. La release riporta un punteggio di 89.7 su SWE-bench Pro v2, contro 73.8 per Qwen 3.6, ma non indica le condizioni dei test né chi ha condotto la valutazione.
Generazione di immagini e fine-tuning in locale
MOSS-Image è un modello per la generazione di immagini da 5,1 miliardi di parametri, capace di creare immagini con testo in inglese o cinese. Unsloth afferma che funziona su GPU con 16 GB di memoria; le sue versioni GGUF possono essere eseguite anche su Mac e computer privi di una GPU supportata. La release non fornisce confronti sulla qualità delle immagini né dati sulle prestazioni.
Nemotron Bolt 4B è una versione di Gemma 4 E4B ottimizzata da NVIDIA per il ragionamento, pensata per l’uso di strumenti e l’esecuzione di istruzioni. Unsloth riporta un punteggio di 63.2 su Tau2-Bench, contro 38.7 per il modello originale, e afferma che Gemma Nemotron 4B ha superato Gemma 4 E4B in 16 dei 21 test di NVIDIA. Sono risultati riportati nella release, che non specifica le condizioni dei test né include verifiche indipendenti.
Per chi addestra modelli, Unsloth afferma inoltre che la nuova API di fine-tuning è compatibile con l’SDK di OpenAI e consente di caricare dataset ed eseguire il fine-tuning supervisionato su modelli locali. La release descrive Unsloth Desktop come gratuito e open source, con download per Windows, macOS e Linux.
Perché conta
Per chi dispone di una GPU da 16 GB, MOSS-Image potrebbe offrire un modo per generare immagini con testo in inglese o cinese usando Unsloth, secondo la release. Il requisito di 24 GB di memoria indicato per Flint vale solo con quantizzazione a 3 bit e contesti brevi; inoltre, la release non presenta risultati di test indipendenti né dettagli sufficienti per confrontare in modo affidabile i punteggi dei benchmark.
