DeepSeek publicó en GitHub un nuevo repositorio llamado DeepEP-Ascend. Ofrece una biblioteca de comunicación para entrenar y ejecutar modelos en NPU Huawei Ascend, compatible con operaciones all-to-all con paralelismo de expertos, paralelismo de canalización y acceso remoto a memoria. La biblioteca replica la API de NVIDIA DeepEP y se puede instalar con un comando de pip. Las primeras pruebas en Ascend 950DT muestran un ancho de banda de distribución cercano al límite del hardware para tamaños de paralelismo de expertos de hasta 32.
Por qué importa
Permite a los desarrolladores usar los chips Ascend de Huawei para modelos de mezcla de expertos a gran escala, con velocidades de comunicación cercanas al límite del hardware.
