# OpenBMB släpper GGUF-kvantiserad MiniCPM-V-utkastmodell

> En multimodal modell med 35 miljarder parametrar (DSpark) finns nu i GGUF-format för llama.cpp och vLLM.

Oossa · 2026-10-14 · https://oossa.com/sv/openbmb-releases-gguf-quantized-minicpm-v-draft-model-on-hugging-face

OpenBMB har lagt till en GGUF-kvantiserad version av MiniCPM-V-4.7-35B-A3B-DSpark på Hugging Face. Kontrollpunkten för utkastmodellen fungerar tillsammans med den matchande MiniCPM-V-målmodellen för spekulativ avkodning, vilket gör det möjligt att generera upp till 15 utkasttoken per framåtpass. Den kan köras med llama.cpp eller vLLM med de angivna kommandoradsflaggorna. Modellen hanterar indata med både bild och text och använder BF16-precision i originalvikterna.

## Fakta

- Modellstorlek: 35 miljarder parametrar, 389 M parametrar i utkastmodellen
- Utkasttoken per spekulativt avkodningspass: 15

## Varför det spelar roll

Utvecklare kan nu köra en stor multimodal modell snabbare på konsumenthårdvara med hjälp av den lätta GGUF-utkastmodellen.

## Källor och referenser

1. [New model on Hugging Face: openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf (text-generation)](https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf) – OpenBMB, 2026-10-14

Senast uppdaterad: 2026-10-14