# llama.cpp b12122 ergänzt fusionierte CUDA-Operation für NVFP4

> Das Release führt für NVFP4, ein Zahlenformat mit geringer Präzision, zwei Schritte der Modellberechnung in einem CUDA-Pfad zusammen. Builds sind für mehrere Plattformen verfügbar.

Oossa · 2026-11-05 · https://oossa.com/de/llama-cpp-b12122-adds-a-fused-cuda-operation-for-nvfp4

Das llama.cpp-Projekt hat Version b12122 veröffentlicht. Sie bringt eine CUDA-Optimierung mit, die NVFP4-Gate-/Up-Matrixmultiplikationen in MMQ, dem Matrixmultiplikationspfad des Projekts, mit einer GLU-Operation zusammenführt. NVFP4 ist ein kompaktes Zahlenformat, das bei manchen KI-Berechnungen zum Einsatz kommt. Durch das Zusammenführen der Schritte kann zusätzlicher Einzelaufwand entfallen; die Release Notes enthalten jedoch keine Leistungswerte.

Zum Release gehören außerdem herunterladbare Builds für macOS, iOS und Ubuntu auf x64, Arm64 und s390x.

## Die Fakten

- Release: llama.cpp b12122; die aufgeführte CUDA-Änderung stammt aus Pull Request #31296.
- Die Downloads umfassen Ubuntu-CPU-Builds für x64, Arm64 und s390x sowie Pakete für macOS und iOS.

## Warum es wichtig ist

Wer unterstützte NVFP4-Workloads mit CUDA ausführt, kann möglicherweise den fusionierten Berechnungspfad nutzen. Die Release Notes beziffern jedoch weder mögliche Geschwindigkeits- noch Speichervorteile.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b12122](https://github.com/ggml-org/llama.cpp/releases/tag/b12122) – llama.cpp, 2026-11-05

Zuletzt aktualisiert: 2026-11-05