A DeepSeek AI abriu um novo repositório no GitHub chamado DeepGEMM-Ascend. Ele leva a biblioteca de multiplicação de matrizes DeepGEMM para as NPUs Ascend da Huawei. O pacote usa a mesma API do DeepGEMM original, permitindo migrar para Ascend, com um simples pip install, códigos que rodam em GPUs da NVIDIA. Ele oferece suporte a GEMM em BF16, FP8 e FP4, logits de MQA e kernels MegaMoE, e afirma atingir até 99,8% dos limites de desempenho do hardware nos dispositivos Ascend 950.
Por que importa
A ferramenta permite que desenvolvedores reutilizem códigos existentes do DeepGEMM nos chips de IA da Huawei, ampliando as opções de hardware para treinar e executar modelos de linguagem de grande porte.
