# OpenBMB brengt GGUF-versie van MiniCPM-V-draftmodel uit

> Een multimodaal draftmodel met 35 miljard parameters (DSpark) is nu beschikbaar in GGUF-formaat voor llama.cpp en vLLM.

Oossa · 2026-10-14 · https://oossa.com/nl/openbmb-releases-gguf-quantized-minicpm-v-draft-model-on-hugging-face

OpenBMB heeft een GGUF-gekwantiseerde versie van MiniCPM-V-4.7-35B-A3B-DSpark toegevoegd aan Hugging Face. Het draftcheckpoint werkt samen met het bijbehorende MiniCPM-V-doelmodel voor speculatieve decoding, met maximaal 15 drafttokens per forward pass. Het model kan met de meegeleverde opdrachtregelopties worden uitgevoerd via llama.cpp of vLLM. Het ondersteunt invoer met beeld en tekst en draait met BF16-precisie op basis van de oorspronkelijke gewichten.

## De feiten

- Modelgrootte: 35 miljard parameters, 389 M draftparameters
- Aantal speculatieve drafttokens per pass: 15

## Waarom het ertoe doet

Ontwikkelaars kunnen een groot multimodaal model nu sneller op consumentenhardware uitvoeren met behulp van het lichtgewicht GGUF-draftmodel.

## Bronnen en referenties

1. [New model on Hugging Face: openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf (text-generation)](https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf) – OpenBMB, 2026-10-14

Laatst bijgewerkt: 2026-10-14