Oossa

پشتیبانی بومی PyTorch از AWS Trainium با TorchNeuron

PyTorch، TorchNeuron را منتشر کرده است؛ بک‌اندی متن‌باز که امکان اجرای مدل‌ها روی تراشه‌های Trainium را بدون تغییر کد فراهم می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 1 دقیقه مطالعه

PyTorch از TorchNeuron رونمایی کرد؛ بک‌اندی بومی که باعث می‌شود AWS Trainium در PyTorch مانند یک دستگاه معمولی دیده شود. این کتابخانه جدید به توسعه‌دهندگان امکان می‌دهد فقط با دستور .to('neuron') مدلشان را به Trainium منتقل کنند و برای سرعت مناسب استفاده در محیط عملیاتی، از torch.compile بهره ببرند. TorchNeuron از اجرای eager، حالت eager تطبیقی و کرنل‌های سفارشی از طریق Neuron Kernel Interface پشتیبانی می‌کند. کد آن با مجوز Apache 2.0 متن‌باز خواهد شد و بتای عمومی از Oct. 20 آغاز می‌شود.

چرا مهم است

پژوهشگران می‌توانند بدون بازنویسی روندهای کاری خود، با همان کد PyTorch از سرعت Trainium بهره ببرند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.