# llama.cpp更新、バックエンドのプリフェッチ処理を改善

> b12328ではプリフェッチの条件を見直し、非対応デバイスではMoEキャッシュを省略します。

Oossa · 2026-11-12 · https://oossa.com/ja/llama-cpp-update-improves-backend-prefetch-handling

ggml‑org/llama.cppプロジェクトは2026-11-12にバージョンb12328をリリースしました。今回の更新では、バックエンドが先行する分割処理で計算済みの入力だけをプリフェッチするようになり、後で上書きされるテンソルの読み込みを回避します。また、使用中のデバイスでキャッシュされた処理を実行できない場合は、MoE（Mixture of Experts）キャッシュをスキップするチェックを追加し、不要なデータコピーを防ぎます。

## 事実

- バージョンb12328を2026-11-12に公開
- 先行する分割処理で計算済みの入力のみをプリフェッチするロジックと、非対応デバイスでMoEキャッシュをスキップする機能を追加

## なぜ重要か

MoEワークロードに対応できないハードウェアでは、メモリへのアクセスを減らし、推論を高速化できると期待されます。

## 出典と参考資料

1. [ggml-org/llama.cpp b12328](https://github.com/ggml-org/llama.cpp/releases/tag/b12328) – llama.cpp, 2026-11-12

最終更新: 2026-11-12