DeepSeekは、GitHubで新たなリポジトリ「DeepEP-Ascend」を公開した。Huawei Ascend NPUでの学習と推論向け通信ライブラリで、エキスパート並列のall-to-all、パイプライン並列、リモートメモリアクセスに対応する。NVIDIA DeepEPと同じAPIを備え、pipコマンドでインストールできる。Ascend 950DTを使った初期テストでは、エキスパート並列のサイズが最大32の場合に、dispatch帯域幅がハードウェアの上限に近い値を記録した。
なぜ重要か
HuaweiのAscendチップを使い、大規模な混合エキスパート(MoE)モデルを、ハードウェアの性能に迫る通信速度で動かせるようになる。