TorchNeuron 性能剖析(一):在 AWS Trainium 上做系统级性能分析
Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.
AI 导读教程演示如何用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 在 AWS Trainium 上抓取干净的推理性能 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。
来源:Hugging Face 社区博客 · huggingface.co
事件后续1
查看事件全部- AWS 发布 TorchNeuron:Trainium 的原生 PyTorch 后端开源PyTorch:Blog · 28 天前