Oossa

AWS发布Neuron 2.33,原生支持PyTorch

AWS新增面向Trainium的TorchNeuron、健康监控工具Observer和调试工具,目前均处于公开测试阶段。

简讯作者: Oossa 发布日期: 1 分钟阅读

AWS宣布Neuron 2.33现已推出。该版本在公开测试中加入了TorchNeuron,这是面向Trainium芯片的原生PyTorch后端。开发者可以在EC2 Trn2和Trn3实例上运行标准PyTorch代码,既可使用即时执行模式,也可使用torch.compile。此版本还新增Neuron Observer,可在不到一秒内发现Trainium的健康问题,并指出故障节点或设备。

为什么重要

PyTorch用户现在无需修改自定义代码,就能在AWS Trainium上训练和运行模型,从而利用成本更低的硬件加快AI开发。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。