# llama.cpp beschleunigt V100 mit CUDA-Anpassung für Volta-GPUs

> Eine kleine Änderung leitet Volta-GPUs (sm_70) zur MMVQ-Tabelle von Turing um. Auf einer Tesla V100 steigt die Geschwindigkeit dadurch um etwa 3 Prozent – bei identischen Ergebnissen.

Oossa · 2026-10-02 · https://oossa.com/de/llama-cpp-adds-cuda-tweak-for-volta-gpus-boosting-v100-speed

Das llama.cpp-Projekt hat am 2026-10-02 ein kleines CUDA-Update veröffentlicht. Damit verwenden Volta-GPUs (sm_70) dieselbe MMVQ-Tuning-Tabelle wie Turing-GPUs. Auf einer Tesla V100 32 GB steigerte die Änderung den Durchsatz beim Modell Qwen3.8‑27B um rund 3 %. Die Ausgabequalität, gemessen anhand der Perplexität, blieb unverändert. Der Patch stammt von anyei und Mitwirkenden.

## Die Fakten

- Gemessene Geschwindigkeitssteigerung von +3.17 % auf einer Tesla V100 32 GB (CUDA 12.0.140).
- Veröffentlichung am Fr., 02.10.2026.

## Warum es wichtig ist

Wer llama.cpp auf einer V100-GPU nutzt, kann Modelle etwas schneller ausführen, ohne Einbußen bei der Genauigkeit.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b11335](https://github.com/ggml-org/llama.cpp/releases/tag/b11335) – llama.cpp, 2026-10-02

Zuletzt aktualisiert: 2026-10-02