AWS宣布Neuron 2.33现已推出。该版本在公开测试中加入了TorchNeuron,这是面向Trainium芯片的原生PyTorch后端。开发者可以在EC2 Trn2和Trn3实例上运行标准PyTorch代码,既可使用即时执行模式,也可使用torch.compile。此版本还新增Neuron Observer,可在不到一秒内发现Trainium的健康问题,并指出故障节点或设备。
为什么重要
PyTorch用户现在无需修改自定义代码,就能在AWS Trainium上训练和运行模型,从而利用成本更低的硬件加快AI开发。