رفعت DeepSeek أوزان نموذجها V4.1-Flash إلى HuggingFace، وأتاحته عبر واجهات Model APIs من Baseten. يضم النموذج 552 B من المعلمات إجمالاً، لكنه لا يفعّل سوى 8 B خلال مرحلة التهيئة المسبقة و16 B لفك الترميز، ما يجعل تشغيله أقل تكلفة من الإصدارات السابقة. ويدعم نافذة سياق بسعة 1 M token، كما يقبل النصوص والصور مدخلاتٍ. ويوجّه نظام تقديم النماذج لدى Baseten الطلبات إلى وحدات GPU التي تحتوي مسبقاً على البادئة المطلوبة، ما يسرّع الاستدلال لوكلاء البرمجة بدرجة أكبر.
لماذا يهم
يمكن للمطورين الذين يبنون مساعدين للبرمجة خفض تكاليف وحدات GPU وتشغيل مطالبات أطول دون الحاجة إلى ذاكرة إضافية.
