DeepSeek ने घोषणा की कि वह DeepInfer को ओपन सोर्स कर रहा है। यह उसका इन्फरेंस इंजन है, जो प्रोडक्शन में DeepSeek‑V4.1‑Flash मॉडल चलाता है। यह फ्रेमवर्क Apache 2.0 लाइसेंस के तहत जारी किया गया है। इसे NVIDIA SM100 GPU और Huawei Ascend 950 NPU के लिए बनाया गया है और यह सिर्फ ऑफलाइन इन्फरेंस को सपोर्ट करता है।
यह क्यों मायने रखता है
डेवलपर अब अपना इन्फरेंस स्टैक तैयार किए बिना, समर्थित हार्डवेयर पर DeepSeek के प्रोडक्शन-ग्रेड इन्फरेंस कोड का इस्तेमाल कर सकते हैं।