# llama.cpp、CPUとCUDAのRMS_NORMでBF16に対応

> オープンソースのLlama推論ライブラリがRMS_NORM演算でBF16精度を扱えるようになりました。macOS、iOS、Linux向けのバイナリも公開されています。

Oossa · 2026-11-13 · https://oossa.com/ja/llama-cpp-adds-bf16-support-for-rms-norm-on-cpu-and-cuda

ggml-orgチームは2026-11-13、llama.cppのバージョンb12366をリリースしました。今回の更新では、CPUとCUDAの両バックエンドで、RMS_NORMレイヤーがBF16（16ビット浮動小数点形式）に対応しました。F32/BF16のRMS_NORMカーネルを起動するヘルパーも一本化されています。macOSのApple Silicon搭載機およびIntel搭載機、iOS、複数のUbuntu環境向けのビルド済みバイナリをダウンロードできます。

## 事実

- バージョンb12366が2026-11-13に公開
- CPUとCUDAのRMS_NORMがBF16に対応

## なぜ重要か

BF16を得意とするハードウェアでLlamaモデルをより高速に実行でき、精度を大きく損なわずにメモリ使用量を抑えられます。

## 出典と参考資料

1. [ggml-org/llama.cpp b12366](https://github.com/ggml-org/llama.cpp/releases/tag/b12366) – llama.cpp, 2026-11-13

最終更新: 2026-11-13