Oossa

Saluki 27B: 2-bit Qwen3.8-model beter in toolgebruik

Het open-source model Saluki 27B is slechts 7.89 GB groot en presteert bij taken met toolgebruik beter dan de volledige Qwen3.8-27B.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Saluki 27B, uitgebracht door de community, is een 2-bit GGUF-versie van Qwen3.8-27B. Het model is 7.89 GB groot en heeft een Apache 2.0-licentie. Volgens het artikel van MarkTechPost presteert Saluki beter dan het oorspronkelijke model van 54 GB op benchmarks voor toolgebruik, maar minder goed op tests voor wedstrijdwiskunde en redeneren.

Waarom het ertoe doet

Ontwikkelaars kunnen een veel kleiner model met een vrije licentie draaien, dat taken met toolgebruik effectiever uitvoert op bescheiden hardware.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.