# llama.cpp får BF16-stöd för RMS_NORM på CPU och CUDA

> Llamas inferensbibliotek med öppen källkod hanterar nu BF16-precision i RMS_NORM-operationen. Binärfiler finns för macOS, iOS och Linux.

Oossa · 2026-11-13 · https://oossa.com/sv/llama-cpp-adds-bf16-support-for-rms-norm-on-cpu-and-cuda

Teamet bakom ggml-org släppte llama.cpp version b12366 den 2026‑11‑13. Uppdateringen lägger till stöd för BF16 (ett 16-bitars flyttalsformat) i RMS_NORM-lagret för både CPU- och CUDA-bakändarna. En gemensam hjälpfunktion startar nu F32/BF16-kärnorna för RMS_NORM. Förkompilerade binärfiler för macOS med Apple Silicon, Intel, iOS och flera Ubuntu-varianter finns att ladda ned.

## Fakta

- Version b12366 släpptes 2026‑11‑13
- BF16-stöd har lagts till för RMS_NORM på CPU och CUDA

## Varför det spelar roll

Utvecklare kan köra Llama-modeller snabbare på hårdvara som är optimerad för BF16 och minska minnesanvändningen utan att förlora särskilt mycket noggrannhet.

## Källor och referenser

1. [ggml-org/llama.cpp b12366](https://github.com/ggml-org/llama.cpp/releases/tag/b12366) – llama.cpp, 2026-11-13

Senast uppdaterad: 2026-11-13