Liquid AI heeft op Hugging Face een 8-bitexport van zijn beslismodel d1-omni-600M geplaatst. Deze versie, d1-omni-600M-MLX-8bit, draait op Apple Silicon met de MLX-vlm-bibliotheek en is slechts 0,73 GB groot, ongeveer 60% van de oorspronkelijke omvang. Het model kan in één voorwaartse doorgang meerdere benoemde, getypeerde vragen over tekst, afbeeldingen of audio beantwoorden, zonder gegenereerde tokens terug te geven. De repository bevat een pip-installatiecommando en voorbeeldcode voor vragen over tekst, afbeeldingen en audio.
Waarom het ertoe doet
Ontwikkelaars kunnen nu multimodale beslismodellen lokaal op Macs draaien zonder GPU. Dat maakt snellere edge-toepassingen mogelijk, zoals het automatisch sorteren van supportvragen.
