AWS 打算降低 PyTorch 的使用门槛。10 月 20 日,TorchNeuron 以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 公开 Beta 发布,这是一个面向 Trainium 芯片的开源原生 PyTorch 后端。注意“原生”两个字:它不再是在 PyTorch 外面套一层转译,而是直接接入 PyTorch 的执行体系。
差别在哪?过去想在 Trainium 上跑训练,绕不开 Neuron SDK 那套桥接层。代码能跑,但路径长、抽象多,调性能时像隔着一层毛玻璃看问题。原生后端要解决的就是这个摩擦:PyTorch 里怎么写,Trainium 上就怎么跑。这一步看着是工程细节,实际上是算力生意的关键。芯片能不能卖出去,从来不取决于峰值算力那几个数字,而取决于一个普通算法工程师要花多少天把模型搬上去。英伟达的竞争壁垒是 CUDA,AWS 想突破的正是这道墙,办法是把自己彻底融入 PyTorch 这个最通用的框架体系里。
但 Beta 阶段就是 Beta 阶段。开源、Apache 2.0、代码放在 GitHub 上,这些是诚意,不能当作答案。真正的考卷有三张:算子覆盖够不够全,尤其是那些冷门但关键的自定义算子;性能能不能与同代 GPU 抗衡,而不是只在自家 benchmark 上看起来不错;以及最要紧的,从 torch-neuronx 老路迁移过来的团队,会不会再遇到同样的问题。Trainium 的故事讲了好几年,缺的从来不是发布会,而是有人愿意把生产环境的训练任务放上去。TorchNeuron 让这件事第一次变得省事了一些。省事,也就够了不起了。

