DeepSeek a annoncé l’ouverture du code de DeepInfer, le moteur d’inférence qui fait tourner son modèle DeepSeek‑V4.1‑Flash en production. Le framework est publié sous licence Apache 2.0. Il est conçu pour les GPU NVIDIA SM100 et les NPU Huawei Ascend 950 et prend uniquement en charge l’inférence hors ligne.
Pourquoi c'est important
Les développeurs peuvent désormais utiliser le code d’inférence de production de DeepSeek sur les équipements compatibles, sans avoir à créer leur propre pile logicielle.
