DeepSeek, üretimde DeepSeek‑V4.1‑Flash modelini çalıştıran çıkarım motoru DeepInfer’ı açık kaynak yaptığını duyurdu. Çerçeve, Apache 2.0 lisansıyla yayımlandı. NVIDIA SM100 GPU’lar ve Huawei Ascend 950 NPU’lar için geliştirilen yazılım yalnızca çevrimdışı çıkarımı destekliyor.
Neden önemli
Geliştiriciler, kendi yazılım altyapılarını kurmak zorunda kalmadan DeepSeek’in üretim düzeyindeki çıkarım kodunu desteklenen donanımlarda kullanabilecek.