Oossa

llama.cpp b12425 får stöd för Qwen3-ForcedAligner

Versionen hämtar storleken på Qwen3-VL:s utmatningshuvud från tensorn, så att llama.cpp kan hantera Qwen3-ForcedAligners mindre tidsstämpelutdata.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet llama.cpp har släppt version b12425 med en ändring som gör att storleken på Qwen3-VL:s utmatningshuvud kan läsas direkt från modellens tensor. Ändringen ger stöd för Qwen3-ForcedAligner, vars utdata innehåller 5,000 tidsstämpelklasser – färre än modellens vokabulär.

Varför det spelar roll

Den som kör Qwen3-ForcedAligner med llama.cpp kan använda en modell vars tidsstämpelutdata är mindre än vokabulären. Versionsinformationen anger inga krav på konfiguration.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.