# OpenBMB发布GGUF量化版MiniCPM-V草稿模型

> 35B参数的多模态草稿模型（DSpark）现已提供GGUF格式，可用于llama.cpp和vLLM。

Oossa · 2026-10-14 · https://oossa.com/zh/openbmb-releases-gguf-quantized-minicpm-v-draft-model-on-hugging-face

OpenBMB已在Hugging Face上发布MiniCPM-V-4.7-35B-A3B-DSpark的GGUF量化版本。该草稿检查点可与配套的MiniCPM-V目标模型协同进行推测解码，每次前向传播最多可生成15个草稿token。使用提供的命令行参数，即可通过llama.cpp或vLLM运行。该模型支持图像与文本输入，原始权重采用BF16精度。

## 事实

- 模型规模：35 billion参数，389 M草稿参数
- 每次推测解码可生成的草稿token数：15

## 为什么重要

开发者现在可以借助轻量级GGUF草稿模型，在消费级硬件上更快地运行大型多模态模型。

## 来源与参考

1. [New model on Hugging Face: openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf (text-generation)](https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B-DSpark-gguf) – OpenBMB, 2026-10-14

最后更新: 2026-10-14