# llama.cpp के CUDA बदलाव से Volta GPU पर V100 की रफ्तार बढ़ी

> दो पंक्तियों के बदलाव से Volta (sm_70) पर Turing की MMVQ टेबल इस्तेमाल होती है। Tesla V100 पर करीब 3% रफ्तार बढ़ी और नतीजे समान रहे।

Oossa · 2026-10-02 · https://oossa.com/hi/llama-cpp-adds-cuda-tweak-for-volta-gpus-boosting-v100-speed

llama.cpp प्रोजेक्ट ने 2026-10-02 को CUDA का एक छोटा अपडेट जारी किया। इससे Volta GPU (sm_70) पर Turing GPU वाली MMVQ ट्यूनिंग टेबल इस्तेमाल होती है। इस बदलाव से Tesla V100 32 GB पर Qwen3.8‑27B मॉडल की थ्रूपुट में करीब 3 % की बढ़ोतरी हुई। पर्प्लेक्सिटी से मापी गई आउटपुट गुणवत्ता पहले जैसी रही। यह पैच anyei और सह-लेखकों ने योगदान के रूप में दिया।

## तथ्य

- Tesla V100 32 GB (CUDA 12.0.140) पर गति में 3.17 % की बढ़ोतरी मापी गई।
- रिलीज़ Fri Oct 02 2026 को पोस्ट की गई।

## यह क्यों मायने रखता है

V100 GPU पर llama.cpp चलाने वाले उपयोगकर्ता सटीकता खोए बिना मॉडल थोड़ी तेज़ी से चला सकते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11335](https://github.com/ggml-org/llama.cpp/releases/tag/b11335) – llama.cpp, 2026-10-02

अंतिम अपडेट: 2026-10-02