AI 基础设施
AWS 开源 TorchNeuron:PyTorch 代码改一句 .to('neuron') 就跑在 Trainium 上
AWS 与 PyTorch 团队 10 月 19 日发文宣布 TorchNeuron:Trainium2/3 的原生 PyTorch 后端,走 PrivateUse1 设备扩展接入,Apache 2.0 开源在 github.com/aws-neuron/torch-neuronx,10 月 20 日在 PyTorch Conference North America 以 public beta 上线(pip install torch-neuronx)。迁移只需一处改动:model.to('neuron'),或 torch.compiler.set_default_backend("neuron")。已支持 eager、torch.compile、NKI 自定义算子、DDP/FSDP2/张量并行与 DTensor;文中写明 TorchAO 与 FP8 仍是 private Beta。AWS 称同时向 PyTorch 提交 PR 移除硬编码 CUDA 假设(193439/193441/193442)。
对 AI 使用者意味着什么
竞争点从峰值算力挪到迁移成本:框架层不再默认绑死 CUDA。真实迁移代价与性能仍需社区实测,「一行配置」为 AWS 自述。
有具体工作流问题?联系咨询。新闻本身免费阅读。