Prime Intellect یک کرنل گذرِ پس‌روِ هم‌پوشان به سامانه Mega MoE شرکت DeepSeek افزوده است تا بتوان از آن برای آموزش مدل‌های ترکیبی از متخصصان استفاده کرد. این شرکت می‌گوید کرنل‌ها تا 3.11× سریع‌تر از پیاده‌سازی پیش‌فرض PyTorch بوده‌اند و آموزش سرتاسری در Prime-RL نیز تا 1.34× سریع‌تر از حالت پایه اجرا شده است.
آزمایش‌های سرتاسری با GPUهای H200 و مدل‌های Qwen3 در پیکربندی‌های چهار و 16 نودی انجام شده‌اند. پشتیبانی به نوع GPU بستگی دارد: کرنل‌ها از bfloat16 پشتیبانی می‌کنند، اما برخی قالب‌های FP8 فقط روی GPUهای Hopper یا Blackwell در دسترس‌اند.
چرا مهم است
برای تیم‌هایی که مدل‌های MoE را روی GPUهای پشتیبانی‌شده Hopper یا Blackwell آموزش می‌دهند، این کرنل‌ها می‌توانند زمان آموزش را کاهش دهند؛ هرچند سرعت‌های گزارش‌شده حاصل آزمایش‌های خود Prime Intellect هستند و ممکن است در پیکربندی‌های دیگر به دست نیایند.
