DeepSeek heeft aangekondigd dat zijn opensource-AI-toolkits nu op Huawei Ascend-chips draaien. De update voegt native ondersteuning toe voor TileLang, DeepGEMM, DeepEP, TileKernels, FlashMLA en DeepSelect. Huawei levert de hardware en de low-level-softwarestack, terwijl DeepSeek de modellen en de engineering voor de workloads levert. Op dit moment is alleen TileLang volledig bruikbaar; voor de andere repositories zijn CANN 9.2.0 van Huawei en een C++20-compiler nodig, die nog niet zijn uitgebracht.
Waarom het ertoe doet
Chinese AI-ontwikkelaars kunnen DeepSeek-modellen nu op Huawei-hardware draaien, waardoor de kloof tussen software en hardware in het Chinese AI-ecosysteem kleiner wordt.