DeepSeek AIは、新たなGitHubリポジトリ「DeepGEMM-Ascend」を公開した。DeepGEMMの行列乗算ライブラリをHuaweiのAscend NPU向けに移植したものだ。元のDeepGEMMと同じAPIを採用しており、NVIDIA GPUで動作するコードは、pip installを実行するだけでAscendに切り替えられる。BF16、FP8、FP4のGEMM、MQA logits、MegaMoEカーネルに対応し、Ascend 950デバイスでハードウェアの性能限界の最大99.8%に達するとしている。
なぜ重要か
開発者は既存のDeepGEMMコードをHuaweiのAIチップで再利用でき、大規模言語モデルの学習や推論に使えるハードウェアの選択肢が広がる。