文章指引:Win10 安装 Tensorrt和torch2trt教程
1 电脑环境
系统:Win10
显卡:NVIDIA GeForce RTX 3090
cuda版本:CUDA 11.6.2
python版本:3.9
TensorRT安装版本:8.5.1.7
2 问题描述
在使用TensorRT-8.5.1.7,发布模型和推理发布的trt模型时出现警告,TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2 (类似问题见文章 [1] )
3 直接原因
TensorRT版本与CUDA、cudnn版本不对应。
4 解决办法
4.1 更新CUDA到对应的tensorRT版本
1)官方tensorrt下载链接:点这里
2)tensorrt 8.x.说明文档:点这里
官方tensorrt下载截图,本人选择windows TensorRT 8.5.1.7版本。
cuda选择11.6.2,如下所所示(截图地址)。
4.2 更新cudnn到对应的tensorRT版本
4.2.1 在cuda安装目录中更新
将cudnn-windows-x86_64-8.6.0.163_cuda11-archive解压后的三个文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6中。
参考教程:Cuda和cuDNN安装教程(超级详细)[3]
4.2.2 (如果继续提示标题所示警告)针对conda安装torch,在anaconda的torch目录中更新
将cudnn-windows-x86_64-8.6.0.163_cuda11-archive\bin目录下文件
复制到目录下:D:\ProgramData\Anaconda3\envs\yolox_resrgan\Lib\site-packages\torch\lib。(说明:yolox_resrgan是本人创建的anaconda虚拟环境)
文章来源:https://www.toymoban.com/news/detail-561709.html
5 查看安装torch、cuda和cudnn版本号
import torch
print(torch.version)
print(torch.version.cuda)
print(torch.backends.cudnn.version())
文章来源地址https://www.toymoban.com/news/detail-561709.html
到了这里,关于【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!