谷歌正式开源 TorchTPU，联合 Meta 打造 PyTorch 原生 TPU 后端，丰富 AI 芯片算力生态

谷歌正式对外开源 TorchTPU 项目，联合 Meta PyTorch 团队共同完成技术开发，实现 PyTorch 框架原生适配 TPU 硬件，开发者无需大幅修改代码，就能把 PyTorch 大模型直接部署在 TPU 集群上运行，大幅降低 TPU 硬件的使用门槛，进一步完善多元化 AI 算力软硬件生态，为行业提供 GPU 之外的高性能算力选择，让更多研发团队可以低成本调用大规模算力开展大模型训练与推理业务。

一、TorchTPU 项目整体研发背景

1. 生态现状 当前 PyTorch 是全球使用率最高的深度学习开发框架，但长期以来 PyTorch 主要适配英伟达 GPU 硬件，TPU 硬件只能依靠转接工具运行 PyTorch 代码，存在额外开销、兼容性差、调试困难等问题，大量 PyTorch 开发者无法直接使用 TPU 算力资源。
2. 合作开发模式 谷歌硬件团队联合 Meta PyTorch 核心团队共同研发 TorchTPU，打造独立原生后端，不依赖 JAX 与 TensorFlow 环境，完全遵循 PyTorch 原生开发规范，做到即开即用，打通 PyTorch 与 TPU 硬件之间的技术壁垒。
3. 项目落地目标 项目面向大语言模型、计算机视觉、生成式 AI 等主流场景，支持单机与数千颗 TPU 组成的超大规模集群训练，让 TPU 成为 PyTorch 生态里稳定可靠的算力硬件，持续扩充 AI 算力硬件选择空间。

二、TorchTPU 核心技术架构清单

1. 三层运行架构

• 上层：完整兼容 PyTorch 原生 API，支持 DDP、FSDP2、DTensor 等主流分布式训练组件，代码写法和 GPU 版本保持一致。
• 中层：提供三种 eager 执行模式，分别为 Debug 调试模式、Strict 标准异步模式、DeferAndFuse 算子融合模式，兼顾调试便利性与运行效率。
• 下层：对接 OpenXLA 与 StableHLO 编译器，自动生成 TPU 硬件指令，充分调用 MXU 矩阵运算单元与 VPU 向量运算单元，最大化硬件算力利用率。

2. 精度优化方案表

表格

3. 分布式集群能力

TorchTPU 配套 tpu_dist 进程组，采用一设备一进程的调度机制，适配 TPU ICI 高速互联网络，最多可支撑 8000 颗 Ironwood TPU 组成超算集群，完成万亿参数大模型的分布式训练任务，集群通信延迟得到有效控制。

三、PyTorch 代码迁移到 TPU 的标准化操作步骤

步骤 1：部署运行环境

安装开源 TorchTPU 软件包，配置 PJRT 设备环境变量，自动识别云端 TPU 硬件，无需额外安装 JAX、PyTorch/XLA 等转接工具。

步骤 2：少量修改设备代码

仅把代码里的 cuda 设备替换为 TPU 设备，其余模型结构、数据加载、优化器代码完全不用改动，保证代码兼容性。

步骤 3：选择执行模式

开发调试阶段使用 Strict 或者 Debug eager 模式，方便断点排查问题；正式上线训练时开启 DeferAndFuse 算子融合，同时开启 torch.compile (backend="tpu") 编译优化，进一步提升运行速度。

步骤 4：开启分布式训练

调用 TorchTPU 自带的 tpu_dist 进程组，开启 FSDP2 分片并行，依托 TPU 互联拓扑完成多机多卡训练，自动优化跨芯片数据通信。

四、TorchTPU 配套生态工具清单

1. 大模型推理工具：vLLM、SGLang、llm-d，满足大模型高吞吐线上推理需求；
2. 大规模训练工具：TorchTitan、VeRL，支持大模型预训练、强化学习训练；
3. 集群调度工具：Ray、Hugging Face 生态套件，实现 TPU 集群资源自动化调度；
4. 部署优化工具：LiteRT，完成模型编译与轻量化部署。

五、项目落地带来的行业价值

TorchTPU 开源落地之后，PyTorch 开发者可以顺畅使用 TPU 算力，软硬件生态进一步多元化，AI 企业可以根据成本、算力需求自由选择 GPU 与 TPU 硬件，充分发挥不同硬件的成本与性能优势，推动整个 AI 算力产业良性发展。整套技术方案经过大规模集群实测，稳定性与性能都达到生产级标准，能够直接落地到大模型研发项目中。

【相关 FAQ】

问题 1：谷歌开源 TorchTPU 并联合 Meta 推进 PyTorch 原生支持 TPU，TorchTPU 和旧版 PyTorch/XLA 有什么区别？

回答 1：谷歌开源 TorchTPU 并联合 Meta 推进 PyTorch 原生支持 TPU，TorchTPU 是全新原生后端，不需要依赖 XLA 转接层，完全遵循 PyTorch 原生语义，eager 执行体验和 GPU 保持一致；而 PyTorch/XLA 属于转接适配方案，会存在执行延迟、调试困难等问题，TorchTPU 在算子执行效率与调试便利性上有明显提升。

问题 2：谷歌开源 TorchTPU 并联合 Meta 推进 PyTorch 原生支持 TPU，现有 PyTorch 模型迁移到 TPU 需要改动大量代码吗？

回答 2：谷歌开源 TorchTPU 并联合 Meta 推进 PyTorch 原生支持 TPU，绝大多数 PyTorch 模型仅需要修改设备指定语句，模型结构、训练逻辑、数据处理代码完全不用重写，迁移成本极低，一键完成从 GPU 到 TPU 的跨硬件部署。

问题 3：谷歌开源 TorchTPU 并联合 Meta 推进 PyTorch 原生支持 TPU，TorchTPU 可以支撑多大规模的 TPU 集群训练？

回答 3：谷歌开源 TorchTPU 并联合 Meta 推进 PyTorch 原生支持 TPU，当前版本已经完成 8000 颗 Ironwood TPU 超大规模集群验证，支持 FSDP2 分布式并行，能够稳定完成万亿参数大模型的预训练任务，适配超算级别的算力业务。

【数据来源】

[2026-10-20]（Introducing TorchTPU - PyTorch）PyTorch 官方博客

[2026-10-22]（谷歌联手 Meta 开源 TorchTPU，实现 PyTorch 原生运行 TPU）智东西

[2026-10-20]（Google Open-Sources TorchTPU, a Native PyTorch Backend for Cloud TPUs）MarkTechPost

[2026-10-20]（TorchTPU – A Hybrid Eager/Compiled Architecture for Native PyTorch Execution on TPU）arXiv 论文库

[2026-10-21]（TorchTPU 打通 PyTorch 与 TPU 硬件生态）Unite.AI

免责声明：本文内容均来自项目开源文档与行业公开资讯，TorchTPU 的功能特性、硬件适配范围以 GitHub 开源仓库最新版本为准；不同型号 TPU 硬件的运行性能会受集群拓扑、模型参数、编译配置影响；开发者在进行大规模集群训练前，建议先在小规模 TPU 环境完成功能验证与性能调优。