导语
在英伟达的软件护城河上，云巨头们又凿开了一道口子。当地时间 10 月 20 日，谷歌在 PyTorch Conference 2026 上宣布：面向自研 AI 芯片 TPU 的原生 PyTorch 框架 TorchTPU 已在 GitHub 上正式开源。这意味着，TPU 与 GPU、CPU 一样，成为 PyTorch 的原生计算选项——开发者现有的 PyTorch 代码无需重写，只需改个配置，就能直接跑在谷歌的 TPU 上。
事件详情：改个配置，不用重写代码
TorchTPU 是谷歌与 Meta 的 PyTorch 团队共同开发的开源 PyTorch 后端，通过 PyTorch 的 PrivateUse1 接口接入。开发者只需用标准的 torch.device(“tpu”) 指定设备，张量就是普通的 PyTorch 张量，没有子类、没有包装类型，单设备单进程，保留视图（views）与原地修改语义。调试阶段可以用 eager 模式，生产环境则交给 torch.compile 压榨性能、降低显存开销。
谷歌表示，TorchTPU 将取代此前的 PyTorch/XLA——后者采用惰性张量（lazy tensor）机制，开发者经常需要手动标注可编译区域，还会遇到难以解释的重编译，调试体验与屏幕上看到的代码常常对不上。谷歌官方建议：所有新负载都应该用 TorchTPU。
这次开源的不只是一个仓库：一共 4 个——TorchTPU 本体、vLLM-TorchTPU、SGLang-TorchTPU 和 TorchTitan。TorchTPU 以 v0.2.0 发布在 PyPI 上，要求 Python 3.11+，采用 Apache 2.0 协议。谷歌称已在从 v5e 一代到最新 Ironwood（TPU 7x）的多代 TPU 上测试，最大规模验证到 8192 块 Ironwood 芯片。
配套工具链一次配齐：谷歌与 vLLM 开发方 Inferact、SGLang 开发方 RadixArk 合作，为两大主流推理框架推出了原生 TPU 后端，不再需要经由 JAX 中转；Hugging Face Transformers v5 上把模型部署到 TPU 只需传入 device_map=”tpu”，Diffusers 也可原生运行；常用的端侧推理工具 LiteRT 升级后更好地支持 PyTorch 应用；还有专门的”TPU 智能体套件”帮开发者把应用迁到 TPU 并排查错误。据谷歌透露，SGLang-TorchTPU 已在 Meta 的生产环境中运行，vLLM 还为参与两个引擎贡献的开发者推出了免费 TPU 算力池。
谷歌公布了一批自测性能数据：在 SemiAnalysis InferenceX 基准下，Qwen 3.5 在 Ironwood 上高并发推理成本低至每百万 token 2.01 美分；用 TorchTitan 在 Ironwood 上训练 Qwen 3 8B 达到 52% 的 MFU（算力利用率）；为 2.8T 参数的 Kimi K3 打造的 Pallas megakernel 可为单用户提供每秒超 700 token 的推理速度；推理服务支持 FP8、MXFP4 和 NVFP4 检查点格式。
Meta 亲自站台：不能被单一硬件架构绑架
最有分量的背书来自 Meta——PyTorch 的”娘家”。Meta PyTorch 工程总监 Jana van Greunen 在发布声明中表示，Meta”不能被单一硬件架构所束缚”（cannot be constrained by a single hardware architecture），TorchTPU 让 Meta 能把大语言模型、广告和推荐系统等核心 PyTorch 负载部署到谷歌芯片上，同时把一线反馈直接送回双方工程团队。
这句话的分量在于：Meta 既是 PyTorch 的缔造者（2016 年以 Facebook 之名开发，2022 年移交 Linux 基金会），也是全球最大的 AI 算力买家之一。当 PyTorch 的”亲爹”公开为对手的芯片站台，英伟达在软件层的锁定正在被从内部松动。
背景分析：亚马逊周一刚动手，谷歌周二跟进
TorchTPU 并非孤立事件。就在一天前（当地时间周一），亚马逊发布了自家的 PyTorch 版本 TorchNeuron，可把现有 PyTorch 应用零改写地移植到自研芯片 Trainium 和 AWS 上；亚马逊还表示正向 PyTorch 主项目提交代码，把各类功能与英伟达芯片解耦，让 PyTorch 默认对各类硬件更开放。
相比之下，谷歌的动作在几个方面更进一步：直接拉上 Meta、Hugging Face、Inferact、RadixArk 等多方共同保证兼容性；开源协议更彻底；工具链覆盖训练（TorchTitan）、推理（vLLM/SGLang）、端侧（LiteRT）全链路。用一位开发者的评价来说：CUDA 的优势从来不只是硅片，而是软件层让”离开”变得昂贵——当框架和常用推理引擎把另一款加速器当作原生选项，迁移成本就下来了。
数字背后是真实的产业焦虑：据统计约 85% 的 AI 应用使用 PyTorch，而 PyTorch 的诸多功能当年都是围绕英伟达 GPU 打造的。谁掌握了开发者默认的运行目标，谁就掌握了算力采购的话语权。
影响与展望：英伟达的”默认选项”地位开始松动
短期看，TorchTPU 最直接的受益者是谷歌云：TPU 一直以”性价比”著称，却苦于软件生态门槛；如今 PyTorch 开发者可以”零重写”迁移，谷歌云向英伟达 GPU 用户挖墙脚的成本大幅下降。Meta 则多了一个与芯片供应商谈判的筹码。
长期看，这是”去 CUDA 化”的关键一步：过去十年，替代芯片的推广总卡在”代码要重写”这一关。当 PyTorch 官方生态开始把 TPU、Trainium 当作一等公民，英伟达的护城河就从”硬件+软件”收缩为”硬件本身”——而这正是云巨头们过去三年疯狂自研芯片想要的结果。
当然，乐观要打折扣：谷歌公布的性能数字都是”自家跑分”，第三方独立验证还没出来；TorchTPU 目前还不支持 torch.Stream 抽象，部分高级工作流仍需等待；TPU 本体依然主要通过谷歌云提供，真正的”开放”程度取决于谷歌愿意把多少算力摆上货架。开发者可以观望，但方向已经很清楚：AI 芯片的竞争，下半场拼的是软件生态。