热点榜
热点事件已平息

Google 发布 TorchTitan TPU 分叉

2 篇报道2 个报道来源28 天前更新

先了解这件事

Google 发布 TorchTitan TPU 分叉,代码托管在 github.com/google-pytorch/torchtitan。该分叉改编自 Meta 的 TorchTitan 实现,目的是让 PyTorch 模型能在 Google Cloud TPU 上训练,并配合 TorchTPU 原生后端,提供 SimpleFSDP、Graph Trainer、Pallas 内核和一套优化 Playbook。

Google 称,对多数模型而言,要在 TPU 上获得较好的 MFU,主要是在现有 recipe 上做一系列配置调整,而不是编写新代码。

AI 根据报道生成 · 27 天前更新

最新进展

Google 发布 TorchTitan TPU 分叉并给出模型优化 Playbook

事件进展1

  1. 介绍 TorchTitan on TPU 集成与优化方法

    Google Developers Blog:Google 发布 TorchTitan TPU 分叉并给出模型优化 Playbook

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。