PyTorch نسخهٔ 2.15 را منتشر کرده و بکاند بازنویسیشدهٔ NCCL را برای کارهایی که از NCCL استفاده میکنند، به گزینهٔ پیشفرض تبدیل کرده است؛ NCCL سامانهای برای هماهنگکردن GPUهای NVIDIA است. اگر گروهی از GPUها حین آموزش هنگ کند، ابزار جدیدی به نام flight recorder میتواند ثبت کند که هر رتبه در حال انجام چه کاری بوده و به تیمها برای بررسی علت مشکل کمک کند.
این نسخه همچنین انتقال یکطرفهٔ داده را از طریق بکاند NIXL اضافه میکند و کنترل بیشتری بر حافظه و ارتباطات در آموزش توزیعشده در اختیار توسعهدهندگان میگذارد. از دیگر تغییرات میتوان به کرنلهای سریعتر استنتاج برای Apple Silicon، پیشفرضشدن CUDA 13.2 در wheelها و پشتیبانی از Python 3.15 در torch.compile اشاره کرد.
چرا مهم است
تیمهایی که مدلها را روی چندین GPU از NVIDIA آموزش میدهند، در صورت هنگکردن ارتباطات به گزارشهای تشخیصی دسترسی خواهند داشت؛ بااینحال، یادداشتهای انتشار مشخص نمیکنند که این قابلیت چقدر زمان بازیابی را کاهش میدهد.