Unsloth bracht op 2026-10-15 versie 0.1.908-beta uit, waarmee NVIDIA’s Nemotron 3.5-modellen en Meta’s Muse Spark Open lokaal kunnen draaien. De Bolt-variant van Nemotron 3.5 past op een GPU met 24 GB geheugen, terwijl de grotere Super VL-versie bij 1-bitprecisie ongeveer 64 GB nodig heeft. Meta’s Muse Spark Open draait op een GPU met 256 GB geheugen bij 2-bitprecisie. De update verbetert ook promptcaching voor codeeragents en voegt ondersteuning toe voor training met tekstdiffusie.
Waarom het ertoe doet
Ontwikkelaars kunnen nu op hun eigen hardware experimenteren met LLM’s met een grote capaciteit, zonder clouddiensten nodig te hebben.