Oossa

Saluki 27B: 2-bit Qwen3.8-modell slår originalet på verktygsanrop

Den öppna modellen Saluki 27B är bara 7.89 GB stor och presterar bättre än Qwen3.8‑27B i full storlek på uppgifter med verktygsanrop.

NotisAv Publicerad av Oossa: 1 min läsning

Saluki 27B, som släppts av communityn, är en 2-bitars GGUF-version av Qwen3.8‑27B. Den är 7.89 GB stor och licensieras under Apache 2.0. Enligt artikeln från MarkTechPost slår Saluki originalmodellen på 54 GB i benchmarktester för verktygsanrop, men presterar sämre i tävlingsmatematik och resonemangstester.

Varför det spelar roll

Utvecklare kan köra en mycket mindre, fritt licensierad modell som hanterar verktygsanrop effektivare på enklare hårdvara.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.