# OpenBMB veröffentlicht GGUF-quantisiertes MiniCPM-V-Draft-Modell

> Ein multimodales Draft-Modell mit 35 Milliarden Parametern (DSpark) ist jetzt im GGUF-Format für llama.cpp und vLLM verfügbar.

Oossa · 2026-10-14 · https://oossa.com/de/openbmb-releases-gguf-quantized-minicpm-v-draft-model-on-hugging-face

OpenBMB hat Hugging Face um eine GGUF-quantisierte Version von MiniCPM-V-4.7-35B-A3B-DSpark erweitert. Der Draft-Checkpoint lässt sich beim Speculative Decoding mit dem passenden MiniCPM-V-Zielmodell kombinieren und ermöglicht bis zu 15 Draft-Tokens pro Vorwärtsdurchlauf. Mit den bereitgestellten Befehlszeilenoptionen kann das Modell mit llama.cpp oder vLLM ausgeführt werden. Es unterstützt Bild-Text-Eingaben und arbeitet mit den Originalgewichten mit BF16-Präzision.

## Die Fakten

- Modellgröße: 35 Milliarden Parameter, 389 M Draft-Parameter
- Draft-Tokens pro Durchlauf: 15

## Warum es wichtig ist

Entwickler können ein großes multimodales Modell nun mithilfe des schlanken GGUF-Drafts schneller auf Consumer-Hardware ausführen.

## Quellen und Referenzen

1. [New model on Hugging Face: openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf (text-generation)](https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf) – OpenBMB, 2026-10-14

Zuletzt aktualisiert: 2026-10-14