DeepSeek가 DeepEP-Ascend라는 새 GitHub 저장소를 공개했다. 이 라이브러리는 화웨이 Ascend NPU에서 학습과 추론을 지원하며, 전문가 병렬 올투올 통신, 파이프라인 병렬 처리, 원격 메모리 접근 기능을 제공한다. NVIDIA DeepEP API와 호환되며 pip 명령어로 설치할 수 있다. Ascend 950DT에서 진행한 초기 테스트에서는 전문가 병렬 크기 32까지 디스패치 대역폭이 하드웨어 한계에 근접한 것으로 나타났다.
왜 중요한가
개발자들은 화웨이 Ascend 칩을 활용해 대규모 전문가 혼합(MoE) 모델을 학습하고, 하드웨어 한계에 가까운 통신 속도를 구현할 수 있다.