DeepSeek heeft aangekondigd dat het DeepInfer als open source beschikbaar stelt. Dit is de inferentie-engine waarop het model DeepSeek‑V4.1‑Flash in productie draait. Het framework wordt uitgebracht onder de Apache 2.0-licentie. Het is ontwikkeld voor NVIDIA SM100-GPU's en Huawei Ascend 950-NPU's en ondersteunt alleen offline-inferentie.
Waarom het ertoe doet
Ontwikkelaars kunnen de productieklare inferentiecode van DeepSeek nu gebruiken op ondersteunde hardware, zonder zelf een stack te hoeven bouwen.