# افزایش سرعت اجرای Zamba2 با مسیر سریع جدید در llama.cpp

> به‌روزرسانی ggml-cuda مسیر d_state=64 را اضافه می‌کند و سرعت تولید Zamba2‑7B‑Instruct را از 11 به 15.1 توکن در ثانیه می‌رساند.

Oossa · 2026-11-08 · https://oossa.com/fa/llama-cpp-adds-fast-path-for-zamba2-gpus-boosting-token-speed

پروژه llama.cpp تغییری در کرنل GPU منتشر کرده که مسیر سریعی برای اندازه حالت 64 اضافه می‌کند. Zamba2 و تراشه‌های مشابه از این اندازه استفاده می‌کنند و پیش از این تغییر، هر مرحله اسکن به CPU واگذار می‌شد و سرعت تولید را به حدود 6‑7 توکن در ثانیه محدود می‌کرد. قالب جدید توان عملیاتی را حدود 35٪ افزایش می‌دهد و سرعت Zamba2‑7B‑Instruct را روی همان سخت‌افزار از 11 به 15.1 توکن در ثانیه می‌رساند. برخی فراخوانی‌های اسکن (حدود 28٪) همچنان روی CPU اجرا می‌شوند؛ بنابراین هنوز به برابری کامل نرسیده‌ایم.

## حقایق

- افزودن مسیر سریع d_state=64 به کرنل SSM_SCAN در ggml-cuda
- افزایش سرعت Zamba2‑7B‑Instruct از 11 tok/s به 15.1 tok/s (حدود 35٪ افزایش)

## چرا مهم است

توسعه‌دهندگانی که از GPUهای Zamba2 استفاده می‌کنند، می‌توانند بدون نیاز به سخت‌افزار اضافه، متن را به‌طور محسوسی سریع‌تر تولید کنند.

## منابع و ارجاع‌ها

1. [ggml-org/llama.cpp b12207](https://github.com/ggml-org/llama.cpp/releases/tag/b12207) – llama.cpp, 2026-11-08

آخرین به‌روزرسانی: 2026-11-08