Google 开源 TorchTPU，让 PyTorch 应用无需重写即可跑在 TPU 上

周二，Google 宣布，其备受期待的 PyTorch 版本 TorchTPU 现已作为开源项目提供。由此，Google 加入 Amazon 的行列，试图打破 Nvidia 对 AI 行业的钳制——目前大多数 AI 应用默认被编写为在 Nvidia 的芯片（即 GPU）上运行。

PyTorch 是 AI 应用开发者和初创公司用来构建、训练和运行 AI 模型的热门开源工具包。据某些统计，85% 的 AI 应用都在使用它。PyTorch 最初由 Meta（当时的 Facebook）于 2016 年开发，远早于世人意识到 LLM 将改变世界之时。当时，Nvidia 的 GPU 已是 AI 研究的标准硬件，因此 PyTorch 的许多功能都是专门为与其配合而构建的。2022 年，Meta 将 PyTorch 移交给了 Linux 基金会，这是一家管理众多重要开源项目的非营利组织。

Google 的版本 TorchTPU 可让 AI 应用在 Google 名为张量处理单元（TPU）的 AI 芯片上运行。它还让现有 PyTorch 应用能轻松迁移到 TPU，从而迁移到 Google Cloud。开发者只需更改一项简单配置即可完成，无需重写应用。

Amazon 在周一也发布了类似公告，推出了自己的 PyTorch 版本 TorchNeuron。TorchNeuron 允许 AI 应用无需重写即可移植到 Amazon 自研的 AI 芯片 Trainium 以及 AWS 上。Amazon 还表示，它在放松 Nvidia 对 PyTorch 掌控的努力上更进一步。它正向 PyTorch 主项目提交代码，将各项功能与 Nvidia 芯片解耦，使其默认对任何硬件都更加开放。

不过，Google 可能在几个方面胜过 Amazon。它表示已直接与 Meta、Hugging Face、Inferact（vLLM 的开发者）、RadixArk（SGLang 的开发者）等合作，确保 TorchTPU 的功能和代码库能像原版 PyTorch 一样与这些热门 AI 开发工具良好配合。

此外，这家搜索巨头还推出了一款专用工具 TPU agent suite，帮助开发者将应用迁移到 Google 的芯片和云上，并在此过程中修复错误。它甚至更新了其广受欢迎的 LiteRT 工具（用于在手机、笔记本电脑和嵌入式设备上运行 AI），使其能更好地配合 PyTorch AI 应用。

这一切并不意味着 AI 应用开发者会仅仅因为现在可以轻松迁移到替代芯片和云平台，就自动集体抛弃 Nvidia 的硬件。但 Amazon 和 Google 显然正在努力终结 Nvidia 的优势。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Julie Bort 是 TechCrunch 的初创企业/风险投资版块编辑。

您可以通过发送邮件至 [email protected] 或在 X 上通过 @Julie188 联系 Julie 或核实其联系信息。

查看简介