La version 0.1.910-beta d’Unsloth ajoute la prise en charge de Flint, de Recursive, de MOSS-Image, d’OpenMOSS, et de Nemotron Bolt 4B, de NVIDIA. Selon l’annonce, les utilisateurs peuvent exécuter ces modèles en local avec Unsloth. La mise à jour propose aussi une installation plus légère d’Unsloth Desktop, limitée au chat ; il est possible d’ajouter les fonctions d’entraînement ultérieurement dans les paramètres.
Flint est un modèle à mélange d’experts de 40 milliards de paramètres, une architecture qui n’active qu’une partie des paramètres pour chaque tâche. Unsloth indique que Flint utilise 2,5 milliards de paramètres actifs, prend en charge un contexte de 256 000 tokens et peut tenir dans 24 Go de mémoire avec une quantification sur 3 bits pour les contextes courts. L’annonce fait état d’un score de 89,7 à SWE-bench Pro v2, contre 73,8 pour Qwen 3.6, sans préciser les conditions du test ni qui a réalisé l’évaluation.
Génération d’images et affinage local
MOSS-Image est un modèle d’image de 5,1 milliards de paramètres capable de générer des images contenant du texte en anglais ou en chinois. Unsloth indique qu’il fonctionne sur des GPU dotés de 16 Go de mémoire ; ses versions GGUF peuvent aussi être exécutées sur des Mac et des ordinateurs dépourvus de GPU pris en charge. L’annonce ne fournit ni comparaison de la qualité des images ni chiffres de performance.
Nemotron Bolt 4B est une version de Gemma 4 E4B optimisée par NVIDIA pour le raisonnement, conçue pour l’utilisation d’outils et le suivi d’instructions. Unsloth fait état d’un score de 63,2 à Tau2-Bench, contre 38,7 pour le modèle d’origine, et affirme que Gemma Nemotron 4B a surpassé Gemma 4 E4B dans 16 des 21 tests de NVIDIA. Ces résultats sont rapportés dans l’annonce, qui ne précise pas les conditions des tests et ne fournit aucune validation indépendante.
Pour les personnes qui entraînent des modèles, Unsloth indique également que sa nouvelle API d’affinage est compatible avec le SDK d’OpenAI : elle permet d’importer des jeux de données et de lancer un affinage supervisé de modèles locaux. L’annonce précise qu’Unsloth Desktop est gratuit et open source, et qu’il est proposé en téléchargement pour Windows, macOS et Linux.
Pourquoi c'est important
Selon l’annonce, les personnes disposant d’un GPU de 16 Go pourraient utiliser MOSS-Image avec Unsloth pour générer des images contenant du texte en anglais ou en chinois. Les 24 Go de mémoire annoncés pour Flint ne valent qu’avec une quantification sur 3 bits et des contextes courts. Par ailleurs, l’annonce ne fournit pas de résultats de tests indépendants ni suffisamment de détails pour comparer les scores des benchmarks de manière fiable.