Biblioteket med öppen källkod llama.cpp släppte version b12385 den 14 november 2026. Uppdateringen åtgärdar ett fel i modellen Qwen2VL, där skalningsfaktorerna för nätverkets feedforward-lager inte tillämpades. Därför gav modellen nonsensresultat, med en perplexitet på omkring 1 e6 på CUDA och NaN på CPU. Korrigeringen skickar rätt skalningsfaktorer till byggfunktionen och återställer därmed normal funktion.
Varför det spelar roll
Utvecklare som använder llama.cpp kan nu köra Qwen2VL på ett tillförlitligt sätt och slippa felaktiga resultat i sina applikationer.
