# llama.cpp accélère Zamba2 sur GPU jusqu’à 15,1 tokens/s

> La mise à jour de ggml-cuda ajoute une voie rapide pour d_state=64 : la génération de Zamba2‑7B‑Instruct passe de 11 à 15,1 tokens par seconde.

Oossa · 2026-11-08 · https://oossa.com/fr/llama-cpp-adds-fast-path-for-zamba2-gpus-boosting-token-speed

Le projet llama.cpp a publié une modification du noyau GPU qui ajoute une voie rapide pour une taille d’état de 64. Zamba2 et des puces similaires utilisent cette taille ; avant ce changement, chaque étape du scan était exécutée sur le CPU, ce qui limitait la génération à environ 6‑7 tokens par seconde. Le nouveau modèle de calcul augmente le débit d’environ 35 % : sur le même matériel, Zamba2‑7B‑Instruct passe de 11 à 15,1 tokens par seconde. Certaines opérations de scan (environ 28 %) sont toutefois toujours exécutées sur le CPU : la parité complète n’est donc pas encore atteinte.

## Les faits

- Ajout d’une voie rapide d_state=64 au noyau SSM_SCAN de ggml-cuda
- Zamba2‑7B‑Instruct passe de 11 tok/s à 15,1 tok/s (gain d’environ 35 %)

## Pourquoi c'est important

Les développeurs qui utilisent des GPU Zamba2 peuvent générer du texte nettement plus vite sans matériel supplémentaire.

## Sources et références

1. [ggml-org/llama.cpp b12207](https://github.com/ggml-org/llama.cpp/releases/tag/b12207) – llama.cpp, 2026-11-08

Dernière mise à jour: 2026-11-08