【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2

这篇具有很好参考价值的文章主要介绍了【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

文章指引:Win10 安装 Tensorrt和torch2trt教程

1 电脑环境

系统:Win10
显卡:NVIDIA GeForce RTX 3090
cuda版本:CUDA 11.6.2
python版本:3.9
TensorRT安装版本:8.5.1.7

2 问题描述

在使用TensorRT-8.5.1.7,发布模型和推理发布的trt模型时出现警告,TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2 (类似问题见文章 [1] )

3 直接原因

TensorRT版本与CUDA、cudnn版本不对应。

4 解决办法

4.1 更新CUDA到对应的tensorRT版本

1)官方tensorrt下载链接:点这里
2)tensorrt 8.x.说明文档:点这里

官方tensorrt下载截图,本人选择windows TensorRT 8.5.1.7版本。

tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习
tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习
cuda选择11.6.2,如下所所示(截图地址)。
tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习

4.2 更新cudnn到对应的tensorRT版本

4.2.1 在cuda安装目录中更新

将cudnn-windows-x86_64-8.6.0.163_cuda11-archive解压后的三个文件复制到 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6中。
参考教程:Cuda和cuDNN安装教程(超级详细)[3]
tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习

tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习

4.2.2 (如果继续提示标题所示警告)针对conda安装torch,在anaconda的torch目录中更新

将cudnn-windows-x86_64-8.6.0.163_cuda11-archive\bin目录下文件tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习
复制到目录下:D:\ProgramData\Anaconda3\envs\yolox_resrgan\Lib\site-packages\torch\lib。(说明:yolox_resrgan是本人创建的anaconda虚拟环境)
tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习

5 查看安装torch、cuda和cudnn版本号

import torch
print(torch.version)
print(torch.version.cuda)
print(torch.backends.cudnn.version())
tensorrt was linked against cudnn 8.6.0 but loaded cudnn 8.5.0,深度学习资源及依赖库安装,python,人工智能,深度学习文章来源地址https://www.toymoban.com/news/detail-561709.html

到了这里,关于【TensorRT】TensorRT was linked against cudnn 8.6.0 but loaded cudnn 8.3.2的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • ubuntu20.04显卡驱动cuda cudnn conda TensorRT安装及配置

    如果要使用 TensorRT ,请注意CUDA 支持的最高算力要大于等于GPU本身的算力, 可以先看3小节 conda和pip换源直接看2.3小节 本人已在ubuntu20.04下安装成功。其他版本步骤应该差不多 如果帖子有帮助,感谢一键三连, ^_^ 部署有问题的小伙伴欢迎留言和加 Q 裙- 472648720 BEV各算法环境部

    2024年01月22日
    浏览(55)
  • Jetson Xavier NX 上查看CUDA、Cudnn、Tensorrt、Opencv的版本及配置信息

    以上功能都可以通过jtop实现,下面是如何安装jtop: 启动后界面如下,可以查看到开发板资源使用情况,接着 点击info 如果安装成功,可以查看到 CUDA、cuDNN、opencv和TensorRT等版本信息 注意!如果是Jetpack5.0.0以上版本可能会看不到很多信息,因为稳定版本不支持,需要安装最新

    2024年02月15日
    浏览(105)
  • CUDA11.1、cuDNN8.6.0、Tensorrt8.5.3,ubuntu20.04安装过程记录

    CUD11.1 下载地址:CUDA Toolkit Archive | NVIDIA Developer  安装: 对于不是sudo用户,可以不执行sudo,不过没办法装到/usr/local/,可以装到你有权限的文件夹目录。 装完后,需要增加环境路径到~/.bashrc并source  记得source ~/.bashrc使得环境生效 cuDNN8.6.0,这个版本我是根据我需要安装的T

    2024年02月15日
    浏览(45)
  • win下pytorch安装—cuda11.6 + cudnn8.4 + pytorch1.12 + tensorRT(pycuda)

    写在前面 博主这里装的是cuda11.7,最后一步tensorRT运行的时候有个pycuda的安装,它的最新版本只支持到cuda11.6,所以博主最后是又把cuda11.7卸载后重新安装了11.6,安装过程和11.7一样。pytorch对应的版本也应该修改,但过程都一样。 下载地址:cuda下载官网链接 这里有个前置工作

    2024年02月11日
    浏览(46)
  • Ubuntu20.04下CUDA11.8、cuDNN8.6.0、TensorRT8.5.3.1的配置过程

    系统设置-软件和更新-附加驱动-选择NVIDIA驱动-应用更改。 NVIDIA官网CUDA下载页面下载CUDA11.8,按步骤进行安装,注意在安装CUDA的时候取消驱动安装这个选项。 安装完后配置环境变量,sudo gedit ~/.bashrc,添加: export PATH=$PATH:/usr/local/cuda-11.8/bin export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/us

    2024年02月11日
    浏览(56)
  • ubuntu 20.04 环境下安装CUDA 11.8, cuDNN v8.6.0和TensorRT 8.6.0(deb方式)

    ubuntu 20.04 环境下安装CUDA 11.8, cuDNN v8.6.0和TensorRT 8.6.0(deb方式) 取消勾选驱动, 下一步 添加环境变量 最后一行添加: 保存关闭后,应用一下更改 下载 cuDNN v8.6.0 for CUDA 11.x 导入CUDA GPG key 刷新存储库元数据 进入 cudnn-local 目录 安装 参考文档: 1 NVIDIA CUDA Installation Guide for Linu

    2024年02月09日
    浏览(96)
  • Ubuntu20.04安装Nvidia显卡驱动、CUDA11.3、CUDNN、TensorRT、Anaconda、ROS/ROS2

    打开终端,输入指令:  选择 【5】 更换系统源,后面还有一个要输入的选项,选择 【0】 退出,就会自动换源。 这一步最痛心了家人们,网上的教程太多了,我总是想着离线安装,每次安装都无法开机,要不就卡在锁屏界面,要不就黑屏,要不就卡在snaped界面,重装系统装

    2024年01月17日
    浏览(74)
  • 【深度学习】SDXL tensorRT 推理,Stable Diffusion 转onnx,转TensorRT

    juggernautXL_version6Rundiffusion.safetensors文件是pth pytroch文件,需要先转为diffusers 的文件结构。 FP16在后面不好操作,所以最好先是FP32: 有了diffusers 的文件结构,就可以转onnx文件。 项目:https://huggingface.co/docs/diffusers/optimization/onnx stabilityai/stable-diffusion-xl-1.0-tensorrt 项目:https://hug

    2024年01月19日
    浏览(54)
  • was loaded over HTTPS, but requested an insecure错误解决

    1、问题:今天客服老师在群里反馈一个加密上传图片的组件上传图片失败,问我是不是对图片格式进行了限制。我在控制台打开一下,爆出了这样的一个错误 The page at \\\' https://oms.luojilab.com/oms-host#/ledgers/user \\\' was loaded over HTTPS, but requested an insecure XMLHttpRequest endpoint \\\' http://ddima

    2024年02月12日
    浏览(45)
  • mixed content the site was loaded over a secure connection but the file at was loaded over an insecu

    mixed content the site was loaded over a secure connection but the file at was loaded over an insecure connection 问题: 在https地址试图通过a标签跳转到http下载地址时,浏览器报错 mixed content the site https://xxx was loaded over a secure connection but the file at http://yyy was loaded over an insecure connection 原因 推测是触发了

    2024年02月14日
    浏览(53)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包