PyTorch 模型想在 TPU 上跑，过去总得将就。Google 这次干脆把 TorchTitan 分叉出来，配上 TorchTPU 原生后端，让 PyTorch 训练真正落在 Cloud TPU 上。代码开在 google-pytorch/torchtitan，不是跑个 demo 就完事的仓库，而是一套可以照着调参、照着压性能的训练栈。
四个东西值得看。SimpleFSDP 把 FSDP 里层层叠叠的抽象削掉，用更干净的图重写压低通信和显存开销；Graph Trainer 把训练循环整体编译成图，砍掉 Python 侧的主机开销；Pallas 内核让你能写 TPU 专属的自定义算子，不必干等官方补齐；再加一份优化 Playbook，把分片策略、batch size 这类经验值直接摊开。听着琐碎，可训练吞吐往往就死在这些地方。
麻烦在维护。分叉意味着 Google 要持续把上游 TorchTitan 的改动搬过来，用的人也得盯紧两条线的版本对应。但方向已经清楚：PyTorch 在 TPU 上从「能跑」走向「跑得划算」。对不愿被单一硬件生态锁死的团队，这是实打实多出来的一条路。
