Unsloth hat am 2026-10-15 Version 0.1.908-beta veröffentlicht. Sie ermöglicht es, NVIDIA Nemotron 3.5 und Meta Muse Spark Open lokal auszuführen. Die Bolt-Variante von Nemotron 3.5 läuft auf einer GPU mit 24 GB Speicher, während die größere Super-VL-Version bei 1-Bit-Präzision rund 64 GB benötigt. Meta Muse Spark Open läuft bei 2-Bit-Präzision auf einer GPU mit 256 GB Speicher. Das Update verbessert außerdem das Prompt-Caching für Coding-Agenten und ergänzt die Unterstützung für das Training mit Textdiffusion.
Warum es wichtig ist
Entwickler können jetzt leistungsstarke LLMs auf eigener Hardware ausprobieren, ohne auf Cloud-Dienste angewiesen zu sein.