Oossa

llama.cpp b12425 unterstützt Qwen3-ForcedAligner

Das Release liest die Größe des Qwen3-VL-Ausgabekopfs direkt aus dem Tensor aus. Dadurch kann llama.cpp die kleinere Zeitstempelausgabe von Qwen3-ForcedAligner verarbeiten.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das llama.cpp-Projekt hat Version b12425 veröffentlicht. Eine Änderung ermöglicht es, die Größe des Qwen3-VL-Ausgabekopfs direkt aus dem Modelltensor auszulesen. Damit wird Qwen3-ForcedAligner unterstützt, dessen Ausgabe 5,000 Zeitstempelklassen umfasst – weniger als das Vokabular des Modells.

Warum es wichtig ist

Wer Qwen3-ForcedAligner mit llama.cpp ausführt, kann ein Modell verwenden, dessen Zeitstempelausgabe kleiner ist als sein Vokabular. In den Versionshinweisen werden keine Anforderungen für die Einrichtung genannt.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.