أضافت OpenBMB نسخة من MiniCPM‑V‑4.7‑35B‑A3B‑DSpark مكمّمة بصيغة GGUF إلى Hugging Face. وتعمل نقطة التحقق التجريبية مع نموذج MiniCPM‑V المستهدف المطابق، لدعم فك الترميز التخميني، بما يتيح استخدام ما يصل إلى 15 رمزًا تجريبيًا في كل تمريرة أمامية. ويمكن تشغيلها باستخدام llama.cpp أو vLLM عبر خيارات سطر الأوامر المرفقة. يدعم النموذج مدخلات الرؤية والنص، وتعمل أوزانه الأصلية بدقة BF16.
لماذا يهم
بات بإمكان المطورين تشغيل نموذج كبير متعدد الوسائط بسرعة أكبر على أجهزة المستهلكين، باستخدام النموذج التجريبي الخفيف بصيغة GGUF.
