PyTorch از TorchNeuron رونمایی کرد؛ بکاندی بومی که باعث میشود AWS Trainium در PyTorch مانند یک دستگاه معمولی دیده شود. این کتابخانه جدید به توسعهدهندگان امکان میدهد فقط با دستور .to('neuron') مدلشان را به Trainium منتقل کنند و برای سرعت مناسب استفاده در محیط عملیاتی، از torch.compile بهره ببرند. TorchNeuron از اجرای eager، حالت eager تطبیقی و کرنلهای سفارشی از طریق Neuron Kernel Interface پشتیبانی میکند. کد آن با مجوز Apache 2.0 متنباز خواهد شد و بتای عمومی از Oct. 20 آغاز میشود.
چرا مهم است
پژوهشگران میتوانند بدون بازنویسی روندهای کاری خود، با همان کد PyTorch از سرعت Trainium بهره ببرند.