DeepSeek宣布开源DeepInfer。这款推理引擎在生产环境中用于运行其DeepSeek‑V4.1‑Flash模型。该框架采用Apache 2.0许可证发布,面向NVIDIA SM100 GPU和Huawei Ascend 950 NPU打造,仅支持离线推理。
为什么重要
开发者现在可以在受支持的硬件上使用DeepSeek经过生产环境验证的推理代码,无需自行搭建整套技术栈。
DeepSeek已按Apache 2.0许可证开源DeepInfer框架,该框架用于运行DeepSeek‑V4.1‑Flash模型。
简讯作者: OossaOossa 发布日期: 最后更新: 1 分钟阅读
DeepSeek宣布开源DeepInfer。这款推理引擎在生产环境中用于运行其DeepSeek‑V4.1‑Flash模型。该框架采用Apache 2.0许可证发布,面向NVIDIA SM100 GPU和Huawei Ascend 950 NPU打造,仅支持离线推理。
开发者现在可以在受支持的硬件上使用DeepSeek经过生产环境验证的推理代码,无需自行搭建整套技术栈。
Oossa · 新闻简报
一周 AI,讲明白
每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。