# OpenBMB का GGUF MiniCPM‑V ड्राफ्ट मॉडल Hugging Face पर उपलब्ध

> 35‑बिलियन पैरामीटर वाला मल्टीमॉडल मॉडल ड्राफ्ट (DSpark) अब llama.cpp और vLLM के लिए GGUF फ़ॉर्मैट में उपलब्ध है।

Oossa · 2026-10-14 · https://oossa.com/hi/openbmb-releases-gguf-quantized-minicpm-v-draft-model-on-hugging-face

OpenBMB ने MiniCPM‑V‑4.7‑35B‑A3B‑DSpark का GGUF‑क्वांटाइज़्ड संस्करण Hugging Face पर उपलब्ध कराया है। यह ड्राफ्ट चेकपॉइंट स्पेक्युलेटिव डिकोडिंग के लिए संबंधित MiniCPM‑V टारगेट मॉडल के साथ काम करता है और हर फ़ॉरवर्ड पास में अधिकतम 15 ड्राफ्ट टोकन इस्तेमाल करने देता है। इसे दिए गए कमांड‑लाइन फ़्लैग्स के साथ llama.cpp या vLLM पर चलाया जा सकता है। मॉडल विज़न‑टेक्स्ट इनपुट को सपोर्ट करता है और इसके मूल वेट BF16 प्रिसिजन में चलते हैं।

## तथ्य

- मॉडल का आकार: 35 बिलियन पैरामीटर, 389 M ड्राफ्ट पैरामीटर
- हर पास में स्पेक्युलेटिव ड्राफ्ट टोकन: 15

## यह क्यों मायने रखता है

हल्के GGUF ड्राफ्ट की मदद से डेवलपर अब उपभोक्ता-स्तर के हार्डवेयर पर बड़े मल्टीमॉडल मॉडल को तेज़ी से चला सकते हैं।

## स्रोत और संदर्भ

1. [New model on Hugging Face: openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf (text-generation)](https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf) – OpenBMB, 2026-10-14

अंतिम अपडेट: 2026-10-14