1.安装GPU驱动与Cudnn(注意版本对应)
2.安装TensorRT
安装流程1
安装流程2
3. 权值.pth文件转为Onnx
4.Onnx 文件本地化 .engine 文件(与本机算力有关)
执行命令:文章来源:https://www.toymoban.com/news/detail-539077.html
trtexec --onnx=./resnet.onnx --saveEngine=resnet.engine --fp16
需要等待一会,等待安装完成。
配置 trtexec或路径工具创建engine文件
创建完成后,生成对应engine文件
文章来源地址https://www.toymoban.com/news/detail-539077.html
5.加载.engine 文件, 图片预测
到了这里,关于Pytorch TensorRT 安装使用流程的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!