TorchTPU：在 Google 规模上原生运行 PyTorch 于 TPU

Source: Google Developers Blog

概述

TorchTPU 是一个全新的工程栈，旨在提供在 Google 的 TPU 基础设施上运行 PyTorch 工作负载的原生、高性能体验，且只需最少的代码更改。

执行模型

它采用 “Eager First” 方法，支持多种执行模式，并利用 XLA 编译器对大规模集群中的分布式训练进行优化。

未来路线图

进入 2026 年后，项目旨在进一步降低编译开销，扩展对动态形状和自定义内核的支持，以确保下一代 AI 的无缝可扩展性。