1. Torch Profiler工具介绍
https://zhuanlan.zhihu.com/p/360479566
PyTorch Profiler 是一个开源工具,可以对大规模深度学习模型进行准确高效的性能分析
。包括如下等功能:
- 分析model的GPU、CPU的使用率
- 各种算子op的时间消耗
- trace网络在pipeline的CPU和GPU的使用情况
Profiler
利用Tensorboard
可视化模型的性能
,帮助发现模型的瓶颈
,比如CPU占用达到80%,说明影响网络的性能主要是CPU,而不是GPU在模型的推理,各种kernel的运算的消耗。此时通过模型的轻量化、以及剪枝等方式对模型的运行速度并没有帮助,降低CPU的消耗,代码的优化才是关键,从而避免在做一些无用功,帮助我们对项目性能的优化。
文章来源:https://www.toymoban.com/news/detail-411487.html
文章来源地址https://www.toymoban.com/news/detail-411487.html
2. Profiler工具使用
到了这里,关于pytorch性能分析工具Profiler的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!