Oossa

Saluki 27B: 2-Bit-Qwen3.8 schlägt Original beim Tool-Aufruf

Das Open-Source-Modell Saluki 27B ist nur 7,89 GB groß und übertrifft Qwen3.8-27B in voller Größe bei Aufgaben mit Tool-Aufrufen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das von der Community veröffentlichte Saluki 27B ist eine 2-Bit-GGUF-Version von Qwen3.8-27B. Es ist 7,89 GB groß und steht unter der Apache-2.0-Lizenz. Laut einem Artikel von MarkTechPost schlägt Saluki das Originalmodell mit 54 GB bei Benchmarks für Tool-Aufrufe, liegt bei Wettbewerbs-Mathematik und Reasoning-Tests jedoch zurück.

Warum es wichtig ist

Entwickler können ein deutlich kleineres, frei lizenziertes Modell auf moderater Hardware ausführen, das Aufgaben mit Tool-Aufrufen effektiver bewältigt.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.