Windows11(CUDA11.7)下安装TensorRT-Toy模板网

这篇具有很好参考价值的文章主要介绍了Windows11(CUDA11.7)下安装TensorRT。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

系列文章目录

前言

TensorRT有多厉害就不多说了，因为确实很好用。

作为在英伟达自家GPU上的推理库，这些年来一直被大力推广，更新也非常频繁，issue反馈也挺及时，社区的负责人员也很积极，简直不要太NICE。

那么我们应该如何入门呢我们应该先安装好TensorRT 在博主研究了两天观摩了很多大佬的博客不断碰壁之后也做出了自己的总结来进行Win11的 TensorRT的安装教程

一、本人环境以及配置

CUDA11.7
cuDNN8.7
TensorRT8.5.2.2
可以看到博主N卡驱动版本是528.33 适配的CUDA版本号是11.7
Windows11(CUDA11.7)下安装TensorRT

二、安装步骤

首先CUDA和cuDNN

我这边找到两个链接没有安装的各位请根据这位博主的教程一步步安装
CUDA和cuDNN的安装教程链接:https://blog.csdn.net/jhsignal/article/details/111401628

TensorRT安装

通过上面博主的教程大家应该安装好了CUDA和cuDNN
下面根据自己的CUDA版本号来找对应的TensorRT的安装包
TensorRT下载链接:https://developer.nvidia.com/nvidia-tensorrt-8x-download
例如博主的cuda版本是11.7那么我下载的则是win系统下的8.5 GA Update 如图:
Windows11(CUDA11.7)下安装TensorRT
将该TensorRT文件解压后，如下图所示：

注:请根据自己的版本来找对应的路径例如博主这里是将 CUDA安装到了C盘所以将 TensorRT中的文件放到了对应位置

核心重点：
将 TensorRT-8.5.2.2\include中头文件 copy 到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\include
将TensorRT-8.5.2.2\lib 中所有lib文件 copy 到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\lib\x64
将TensorRT-8.5.2.2\lib 中所有dll文件copy 到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin

Python安装TensorRT库

我们在Anaconda Prompt中进行安装:
Windows11(CUDA11.7)下安装TensorRT
CD 进入TensorRT-8.5.2.2/python

这个cp38是根据自己的python版本来设置的例如博主的python3.7那就是cp37
输入代码段

pip install tensorrt-8.2.3.0-cp38-none-win_amd64.whl

三、进行测试

建立一个python工程输入代码进行测试

import tensorrt as trt
if __name__ == "__main__":
    print(trt.__version__)
    print("hello trt!!")

结果
Windows11(CUDA11.7)下安装TensorRT 文章来源地址https://www.toymoban.com/news/detail-489723.html

到了这里，关于Windows11(CUDA11.7)下安装TensorRT的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

Windows11(CUDA11.7)下安装TensorRT

系列文章目录

前言

一、本人环境以及配置