# llama.cpp b12122 voegt gefuseerde CUDA-bewerking voor NVFP4 toe

> De release combineert voor NVFP4, een getalnotatie met lage precisie, twee modelberekeningen in één CUDA-pad. Er zijn builds beschikbaar voor meerdere platforms.

Oossa · 2026-11-05 · https://oossa.com/nl/llama-cpp-b12122-adds-a-fused-cuda-operation-for-nvfp4

Het llama.cpp-project heeft versie b12122 uitgebracht. Die bevat een CUDA-optimalisatie die NVFP4-matrixvermenigvuldigingen voor gate/up samenvoegt met een GLU-bewerking in MMQ, het pad voor matrixvermenigvuldigingen. NVFP4 is een compacte getalnotatie die bij sommige AI-berekeningen wordt gebruikt. Door stappen te combineren kan apart werk worden verminderd, maar de release-opmerkingen bevatten geen prestatiemetingen.

De release bevat ook downloadbare builds voor macOS, iOS en Ubuntu op x64, Arm64 en s390x.

## De feiten

- Release: llama.cpp b12122; de vermelde CUDA-wijziging is pull request #31296.
- De downloads bevatten CPU-builds voor Ubuntu x64, Arm64 en s390x, plus pakketten voor macOS en iOS.

## Waarom het ertoe doet

Wie ondersteunde NVFP4-workloads op CUDA uitvoert, kan mogelijk het gefuseerde rekenpad gebruiken. De release-opmerkingen geven echter geen cijfers over eventuele snelheids- of geheugenwinst.

## Bronnen en referenties

1. [ggml-org/llama.cpp b12122](https://github.com/ggml-org/llama.cpp/releases/tag/b12122) – llama.cpp, 2026-11-05

Laatst bijgewerkt: 2026-11-05