Oossa

DeepSeek开源DeepInfer推理框架

DeepSeek已按Apache 2.0许可证开源DeepInfer框架,该框架用于运行DeepSeek‑V4.1‑Flash模型。

简讯作者: Oossa 发布日期: 最后更新: 1 分钟阅读

DeepSeek宣布开源DeepInfer。这款推理引擎在生产环境中用于运行其DeepSeek‑V4.1‑Flash模型。该框架采用Apache 2.0许可证发布,面向NVIDIA SM100 GPU和Huawei Ascend 950 NPU打造,仅支持离线推理。

为什么重要

开发者现在可以在受支持的硬件上使用DeepSeek经过生产环境验证的推理代码,无需自行搭建整套技术栈。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。