# llama.cpp 为 CPU 和 CUDA 的 RMS_NORM 增添 BF16 支持

> 这款开源 Llama 推理库现已支持在 RMS_NORM 运算中使用 BF16 精度，并提供 macOS、iOS 和 Linux 版本的二进制文件。

Oossa · 2026-11-13 · https://oossa.com/zh/llama-cpp-adds-bf16-support-for-rms-norm-on-cpu-and-cuda

ggml‑org 团队于 2026‑11‑13 发布 llama.cpp b12366 版。此次更新为 CPU 和 CUDA 后端的 RMS_NORM 层加入 BF16（一种 16 位浮点格式）支持，并通过一个通用辅助函数启动 F32/BF16 RMS_NORM 内核。用户可下载适用于 macOS Apple Silicon、Intel、iOS 及多个 Ubuntu 版本的预编译二进制文件。

## 事实

- b12366 版于 2026‑11‑13 发布
- CPU 和 CUDA 的 RMS_NORM 新增 BF16 支持

## 为什么重要

开发者可以在更适合 BF16 的硬件上更快地运行 Llama 模型，同时减少内存占用，而且精度损失不大。

## 来源与参考

1. [ggml-org/llama.cpp b12366](https://github.com/ggml-org/llama.cpp/releases/tag/b12366) – llama.cpp, 2026-11-13

最后更新: 2026-11-13