# llama.cpp verhelpt Vulkan-bug met NVFP4-schaalwaarden

> Release b12073 breidt een gedeelde opzoektabel uit om leesacties buiten de tabel bij bepaalde schaalbytes te voorkomen. Elke getroffen pipeline gebruikt 512 bytes extra gedeeld geheugen.

Oossa · 2026-11-03 · https://oossa.com/nl/llama-cpp-fixes-vulkan-nvfp4-scale-lookup-bug

De release van llama.cpp b12073 verhelpt een Vulkan-bug bij het opzoeken van UE4M3-schaalwaarden in NVFP4-data. Bepaalde schaalbytes konden ertoe leiden dat de code buiten een gedeelde opzoektabel las. Die tabel bevatte namelijk 128 items, terwijl de ruwe byte 256 waarden kon vertegenwoordigen.

De oplossing breidt de tabel en het daarvoor gereserveerde geheugen uit tot 256 items. Elke NVFP4-pipeline gebruikt 512 bytes extra gedeeld geheugen. Volgens de release-opmerkingen hebben modellen die met llama.cpp zijn gekwantiseerd geen last van de bug, omdat de conversiecode van llama.cpp de bit die de leesactie buiten de tabel veroorzaakt niet instelt.

## De feiten

- De oplossing zit in release b12073 van llama.cpp.
- Elke NVFP4-pipeline gebruikt 512 bytes extra gedeeld geheugen.

## Waarom het ertoe doet

Wie NVFP4-workloads op Vulkan draait, is beschermd tegen leesacties buiten de opzoektabel. Volgens de release-opmerkingen hebben modellen die met llama.cpp zijn gekwantiseerd geen last van de bug.

## Bronnen en referenties

1. [ggml-org/llama.cpp b12073](https://github.com/ggml-org/llama.cpp/releases/tag/b12073) – llama.cpp, 2026-11-03

Laatst bijgewerkt: 2026-11-03