# llama.cpp unterstützt BF16 für RMS_NORM auf CPU und CUDA

> Die Open-Source-Inferenzbibliothek Llama verarbeitet BF16-Präzision jetzt auch bei der RMS_NORM-Operation. Binärdateien gibt es für macOS, iOS und Linux.

Oossa · 2026-11-13 · https://oossa.com/de/llama-cpp-adds-bf16-support-for-rms-norm-on-cpu-and-cuda

Das Team von ggml-org hat am 2026-11-13 llama.cpp in Version b12366 veröffentlicht. Das Update ergänzt die Unterstützung für BF16 (ein 16-Bit-Gleitkommaformat) in der RMS_NORM-Ebene für CPU- und CUDA-Backends. Eine gemeinsame Hilfsfunktion startet nun die F32-/BF16-RMS_NORM-Kernels. Vorgefertigte Binärdateien für Apple-Silicon- und Intel-Macs, iOS sowie mehrere Ubuntu-Varianten stehen zum Download bereit.

## Die Fakten

- Version b12366 am 2026-11-13 veröffentlicht
- BF16-Unterstützung für RMS_NORM auf CPU und CUDA ergänzt

## Warum es wichtig ist

Entwickler können Llama-Modelle auf Hardware, die BF16 bevorzugt, schneller ausführen und dabei den Speicherbedarf senken, ohne große Genauigkeitseinbußen hinnehmen zu müssen.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b12366](https://github.com/ggml-org/llama.cpp/releases/tag/b12366) – llama.cpp, 2026-11-13

Zuletzt aktualisiert: 2026-11-13