Die Open-Source-Bibliothek llama.cpp hat am November 14, 2026 die Version b12385 veröffentlicht. Das Update behebt einen Fehler im Modell Qwen2VL, durch den die Skalierungsfaktoren für die Feedforward-Netzwerkschichten nicht angewendet wurden. Dadurch lieferte das Modell unsinnige Ausgaben: Die Perplexität lag auf CUDA bei etwa 1 e6 und auf CPU bei NaN. Die Korrektur übergibt dem Build-Prozess die richtigen Skalierungsfaktoren und stellt so den normalen Betrieb wieder her.
Warum es wichtig ist
Entwickler, die llama.cpp verwenden, können Qwen2VL nun zuverlässig ausführen und fehlerhafte Ergebnisse in ihren Anwendungen vermeiden.
