# llama.cpp unterstützt jetzt BF16-Präzision

> Die Open-Source-Bibliothek zur LLaMA-Inferenz beherrscht nun BF16-Berechnungen und verbessert damit die Leistung auf mehreren Backends.

Oossa · 2026-11-08 · https://oossa.com/de/llama-cpp-update-adds-bf16-precision-support

Das ggml‑org-Team hat llama.cpp in Version b12202 veröffentlicht. Neu ist die Unterstützung der BF16-Präzision (Brain Floating Point, 16 Bit) bei wichtigen Matrixmultiplikationen. Die Änderung entspricht der Referenzimplementierung und wird nun von CUDA, Vulkan, OpenCL, Hexagon und weiteren Backends unterstützt. Tests für Flash Attention laufen jetzt neben dem bisherigen F32-Modus auch mit BF16.

## Die Fakten

- Version b12202 am 2026-11-08 veröffentlicht
- Unterstützung für GGML_PREC_BF16 über mehrere Backends hinweg hinzugefügt

## Warum es wichtig ist

Entwickler können LLaMA-Modelle auf Hardware, die BF16 bevorzugt, etwa neueren GPUs, schneller ausführen.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b12202](https://github.com/ggml-org/llama.cpp/releases/tag/b12202) – llama.cpp, 2026-11-08

Zuletzt aktualisiert: 2026-11-08