# llama.cpp b12122 lägger till CUDA-optimering för NVFP4

> Versionen slår ihop två beräkningssteg för modeller i ett CUDA-flöde för NVFP4, ett talformat med låg precision. Byggversioner finns för flera plattformar.

Oossa · 2026-11-05 · https://oossa.com/sv/llama-cpp-b12122-adds-a-fused-cuda-operation-for-nvfp4

Projektet llama.cpp har släppt version b12122, som lägger till en CUDA-optimering där NVFP4-matrismultiplikationer för gate/up slås ihop med en GLU-operation i MMQ, projektets flöde för matrismultiplikationer. NVFP4 är ett kompakt talformat som används i vissa AI-beräkningar. När flera steg kombineras kan mängden separat arbete minska, men versionsinformationen innehåller inga prestandamätningar.

Versionen innehåller också nedladdningsbara byggversioner för macOS, iOS och Ubuntu på x64, Arm64 och s390x.

## Fakta

- Version: llama.cpp b12122; CUDA-ändringen finns i pull request #31296.
- Nedladdningarna omfattar CPU-byggversioner för Ubuntu x64, Arm64 och s390x samt paket för macOS och iOS.

## Varför det spelar roll

Den som kör CUDA-arbetslaster med stöd för NVFP4 kan få tillgång till det sammanslagna beräkningsflödet, men versionsinformationen anger inte hur mycket snabbare det går eller hur mycket minne som kan sparas.

## Källor och referenser

1. [ggml-org/llama.cpp b12122](https://github.com/ggml-org/llama.cpp/releases/tag/b12122) – llama.cpp, 2026-11-05

Senast uppdaterad: 2026-11-05