Das Release llama.cpp b12073 behebt einen Vulkan-Fehler bei der Suche nach UE4M3-Skalierungswerten in NVFP4-Daten. Bestimmte Skalierungsbytes konnten dazu führen, dass der Code über das Ende einer gemeinsam genutzten Lookup-Tabelle hinaus las: Die Tabelle hatte 128 Einträge, während ein Rohbyte 256 Werte darstellen kann.
Die Korrektur erweitert die Tabelle und die dafür vorgesehenen Speicherbudgets auf 256 Einträge. Jede NVFP4-Pipeline benötigt 512 Bytes mehr Shared Memory. Laut den Release Notes sind mit llama.cpp quantisierte Modelle nicht betroffen, da der Konvertierungscode das Bit, das den Zugriff außerhalb des gültigen Bereichs auslöst, nicht setzt.
Warum es wichtig ist
Wer NVFP4-Workloads mit Vulkan ausführt, ist vor Zugriffen außerhalb des gültigen Tabellenbereichs geschützt. Laut den Release Notes sind mit llama.cpp quantisierte Modelle von dem Fehler nicht betroffen.
