AWS объявила о выпуске Neuron 2.33. В обновление вошёл TorchNeuron — нативный бэкенд PyTorch для чипов Trainium, доступный в публичной бета-версии. Разработчики могут запускать стандартный код PyTorch на инстансах EC2 Trn2 и Trn3 — в eager-режиме или с помощью torch.compile. В релиз также вошёл Neuron Observer: он выявляет проблемы с работой Trainium менее чем за секунду и указывает на неисправный узел или устройство.
Почему это важно
Пользователи PyTorch теперь могут обучать модели и запускать их на AWS Trainium без изменений в коде. Это ускоряет разработку ИИ на более доступном по цене оборудовании.