# llama.cpp、Zamba2 GPU向け高速処理を追加　生成速度が向上

> ggml-cudaの更新でd_state=64向けの処理経路が加わり、Zamba2‑7B‑Instructの生成速度は毎秒11トークンから15.1トークンに上がった。

Oossa · 2026-11-08 · https://oossa.com/ja/llama-cpp-adds-fast-path-for-zamba2-gpus-boosting-token-speed

llama.cppプロジェクトは、状態サイズ64向けの高速処理を追加するGPUカーネルの調整をリリースした。Zamba2などはこのサイズを使用するが、今回の変更前はスキャン処理の各ステップがCPUにフォールバックし、生成速度は毎秒約6～7トークンに制限されていた。新しいテンプレートにより処理速度は約35%向上し、同じハードウェアでZamba2‑7B‑Instructの生成速度は毎秒11トークンから15.1トークンになった。一部のスキャン処理（約28%）は引き続きCPUで実行されるため、完全な性能 parity にはまだ至っていない。

## 事実

- ggml-cudaのSSM_SCANカーネルにd_state=64向けの高速処理経路を追加
- Zamba2‑7B‑Instructの速度が毎秒11トークンから15.1トークンに向上（約35%増）

## なぜ重要か

Zamba2 GPUを使う開発者は、追加のハードウェアを用意せずに、より速くテキストを生成できる。

## 出典と参考資料

1. [ggml-org/llama.cpp b12207](https://github.com/ggml-org/llama.cpp/releases/tag/b12207) – llama.cpp, 2026-11-08

最終更新: 2026-11-08