DeepSeek AI مخزن جدیدی با نام DeepGEMM-Ascend در GitHub منتشر کرد. این مخزن کتابخانه ضرب ماتریسی DeepGEMM را به NPUهای Ascend هواوی میآورد. این بسته از همان API نسخه اصلی DeepGEMM استفاده میکند؛ بنابراین میتوان کدی را که روی GPUهای NVIDIA اجرا میشود، تنها با اجرای یک دستور pip install به Ascend منتقل کرد. DeepGEMM-Ascend از BF16، FP8، FP4 GEMM، لاجیتهای MQA و کرنلهای MegaMoE پشتیبانی میکند و مدعی است روی دستگاههای Ascend 950 به ۹۹٫۸ درصد از توان سختافزاری میرسد.
چرا مهم است
این ابزار به توسعهدهندگان امکان میدهد کدهای فعلی DeepGEMM را روی تراشههای هوش مصنوعی هواوی هم به کار بگیرند و گزینههای سختافزاری بیشتری برای آموزش و استنتاج مدلهای زبانی بزرگ داشته باشند.
