Oossa

Liquid AI släpper 8-bitarsversion av d1-omni-600M för Apple Silicon

Modellen kan besvara flera specificerade frågor om text, bilder eller ljud i ett enda steg och körs nu i 0,73 GB på Apple Silicon via MLX.

NotisAv Publicerad av Oossa: Senast uppdaterad: 1 min läsning

Liquid AI har publicerat en 8-bitarsexport av sin beslutsmodell d1-omni-600M på Hugging Face. Versionen, som heter d1-omni-600M-MLX-8bit, körs på Apple Silicon med MLX-vlm-biblioteket och tar bara upp 0,73 GB, ungefär 60 % av originalets storlek. Den kan besvara flera namngivna frågor av olika typer om text, bilder eller ljud i en enda framåtpassering, utan att generera några token. I repot finns ett pip-installationskommando och exempelkod för frågor om text, bilder och ljud.

Varför det spelar roll

Utvecklare kan nu köra multimodala beslutsmodeller lokalt på Mac utan att behöva ett grafikkort, vilket möjliggör snabbare edge-tillämpningar som automatisk sortering av supportärenden.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.