DeepSeek AI 在 GitHub 上开源了一个名为 DeepGEMM-Ascend 的新代码库,将 DeepGEMM 矩阵乘法库移植到了华为昇腾 NPU。该软件包使用与原版 DeepGEMM 相同的 API,因此,在 NVIDIA GPU 上运行的代码只需通过 pip install 即可切换到昇腾。它支持 BF16、FP8、FP4 GEMM、MQA logits 和 MegaMoE 内核,并声称在昇腾 950 设备上可达到硬件性能上限的 99.8%。
为什么重要
开发者可以在华为 AI 芯片上复用现有的 DeepGEMM 代码,为大语言模型训练和推理提供更多硬件选择。