DeepSeek ha annunciato il rilascio open source di DeepInfer, il motore di inferenza che esegue in produzione il modello DeepSeek‑V4.1‑Flash. Il framework è distribuito con licenza Apache 2.0. È progettato per le GPU NVIDIA SM100 e le NPU Huawei Ascend 950 e supporta solo l’inferenza offline.
Perché conta
Gli sviluppatori possono ora usare il codice di inferenza di DeepSeek, pronto per la produzione, sull’hardware supportato senza dover creare un proprio stack.