TensorRT部署--Linux(Ubuntu)环境配置

这篇具有很好参考价值的文章主要介绍了TensorRT部署--Linux(Ubuntu)环境配置。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

系列文章目录

TensorRT环境配置–Linux(Ubuntu)



前言

TensorRT部署-Windows环境配置: https://blog.csdn.net/m0_70420861/article/details/135658922?spm=1001.2014.3001.5502


一、环境配置

如果还未配置环境的话,nvidia-smi是不会显示的。
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
以CUDA-BEVFusion部署为例搭建环境:

https://github.com/NVIDIA-AI-IOT/Lidar_AI_Solution/tree/master/CUDA-BEVFusion

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

查看兼容性:https://docs.nvidia.com/deeplearning/tensorrt/release-notes/index.html#rel-8-6-1

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
查看Ubuntu版本

lsb_release -a

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

确定各个版本:
CUDA:11.6
cuDNN: 8.6.0
TensorRT:8.6.1.6
Ubuntu:18.04

二、CUDA下载安装

安装前先查询一下系统里是否已经安装cuda

ll /usr/local

下载地址:https://developer.nvidia.com/cuda-11-6-0-download-archive?target_os=Linux
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

wget https://developer.download.nvidia.com/compute/cuda/11.6.0/local_installers/cuda_11.6.0_510.39.01_linux.run
sudo sh cuda_11.6.0_510.39.01_linux.run

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
安装 CUDA 时出现 “Failed to verify gcc version” 错误通常是由于系统上没有正确配置或安装 GCC。CUDA 要求必须有一个完整的 C/C++ 开发环境,包括 GCC 和 G++ 等编译器。
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
安装一下即可:

sudo apt install gcc
sudo sh cuda_11.6.0_510.39.01_linux.run

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

accpct之后
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
有driver的可以不安装,就是nvidia-smi能显示的说明有driver
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
其他的都可以不要
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
如果自己另外安装驱动的话,可以参考博文https://zhuanlan.zhihu.com/p/641730069

三、cuDNN下载安装

下载地址:https://developer.nvidia.com/rdp/cudnn-archive
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
打开cuDNN安装教程: https://docs.nvidia.com/deeplearning/cudnn/install-guide/index.html
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

四、TensorRT下载安装

下载安装TensorRT linux版本
TensorRT下载安装地址:https://developer.nvidia.com/nvidia-tensorrt-8x-download
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

要将环境变量永久添加到 ~/.bashrc 或 ~/.bash_profile 文件中可以使用以下方法(推荐)

vi ~/.bashrc

编辑.bashrc文件,在文件末尾添加export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:TensorRT-8.6.1.6/include

在终端中执行以下命令使更改生效:

source ~/.bashrc

测试是否成功:

cd TensorRT-8.6.1.6/samples/sampleOnnxMNIST
make

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

cd TensorRT-8.6.1.6/bin/
./sample_onnx_mnist

如果出现
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

这个错误提示表明程序找不到libnvinfer.so.8动态链接库文件。需要将该库文件所在的路径添加到LD_LIBRARY_PATH环境变量中,使得程序能够正确加载该库文件。

首先,需要找到libnvinfer.so.8文件所在的路径。可以使用以下命令来查找:

sudo find / -name libnvinfer.so.8

一旦找到该文件的路径,你可以将其添加到LD_LIBRARY_PATH中,方法如下:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:路径
sudo ldconfig

比如:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/root/TensorRT-8.6.1.6/targets/x86_64-linux-gnu/lib
sudo ldconfig
./sample_onnx_mnist

就成功了!!!
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
注意安装 TensorRT Python 包是使用 TensorRT 的关键步骤之一
可以用以下命令进行安装

pip install tensorrt

这个快一点

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorrt

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维
安装好之后python就可以导入tensorrt模块,没安装的话会显示模块未找到。
TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

关于环境配置:推荐博客https://blog.csdn.net/Msjiangmei/article/details/132585145

五、模型创建

TensorRT C++ 代码解析可参考:https://blog.csdn.net/m0_70420861/article/details/135574423

删除所有生成的目标文件、中间文件和可执行文件,以便重新构建项目

make clean

TensorRT部署--Linux(Ubuntu)环境配置,linux,ubuntu,运维

make -j64是一个make命令的参数,它指定了在编译过程中同时运行的任务数量。其中,"-j"表示并行处理的意思,"64"表示任务的最大数量。加快编译速度

make -j64

总结

TensorRT部署-Windows环境配置: https://blog.csdn.net/m0_70420861/article/details/135658922?spm=1001.2014.3001.5502文章来源地址https://www.toymoban.com/news/detail-817556.html

到了这里,关于TensorRT部署--Linux(Ubuntu)环境配置的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • Linux之Ubuntu环境安装配置Jenkins

    Ubuntu环境安装配置Jenkins,启动服务 一、安装过程 1、查看服务器的操作系统  2、查看JDK是否安装  如果还没有安装,则需要安装,命令如下: 3、下载2.406版本jenkins,阿里云或者华为云镜像 4、安装并启动命令 5、查看是否启动成功 结果截图,8080端口启动成功 6、然后就可以

    2024年03月16日
    浏览(66)
  • Linux Ubuntu20.04深度学习环境快速配置命令记录

    1、更新系统包 2、安装显卡驱动 使用apt方式安装驱动,多数情况不容易成功, 使用一下方法更佳: 1.查看合适显卡的驱动版本 NVIDIA GeForce 驱动程序 - N 卡驱动 | NVIDIA NVIDIA GeForce 驱动程序官方提供下载最新版的 Geforce 驱动程序,可提升 PC 游戏体验和应用程序速度。更多关于更

    2024年02月09日
    浏览(56)
  • Linux配置QT Creator环境:ubuntu中安装QT Creator环境

      目前市面上很多公司使用QT Creator进行界面开发,基本都会选择在Linux环境进行,优点不仅是市场所需,更是方便后期代码的移植,相较于Windows系统,Linux系统移植性非常好。故此篇文章,介绍如何在Linux环境中安装QT Creator环境(注:本作者以QT Creator 5.14.2进行介绍,大家

    2024年02月13日
    浏览(44)
  • 在Linux的Ubuntu系统下安装QT及相关环境配置

           从官网下载QT的安装包,在本地安装。本次使用的是Ubuntu18.06以及QT5.14.2,下文皆使用此版本作为示例。        首先安装QT,具体操作如下:  1、使用cd命令: cd /home/(usr)/download ,切换至安装包所在的目录下。 2、使用命令: sudo chmod +x qt-opensource-linux-x64-5.14.2.run ,获

    2024年02月07日
    浏览(40)
  • 【Linux环境配置】6. 解决uboot无法ping通Ubuntu虚拟机

    开发环境 使用的板子为正点原子的Alpha-Mini板,教材为正点原子配套的驱动开发指南v1.6。 问题 启动uboot后到学习网络命令时,始终无法ping通服务器主机。 其中, serverip , ipaddr , ethaddr , gatewayip , netmask 都已经设置好并确认服务器ip与板子的ip地址在同一网段。 解决方式 通过参

    2024年02月08日
    浏览(35)
  • 【Linux】Ubuntu20.04版本配置pytorch环境2023.09.05【教程】

    首先进入Anaconda官网下载linux版本的安装文件 Anaconda3-2023.07-2-Linux-x86_64.sh ,进入安装文件路径,运行下面的脚本进行安装 安装需要阅读用户协议,一直按 enter 就行了,到当前页面时需要输出 yes 进行确认即可开始安装。 然后按照提示进行操作即可完成安装。 Anaconda基本环境管

    2024年02月09日
    浏览(41)
  • Linux环境搭建(Ubuntu22.04)+ 配置共享文件夹(Samba)

    Linux开发环境准备 搭建Linux开发环境所需要的软件如下: VMware虚拟机: 用于运行Linux操作系统的虚拟机软件之一,VMware下载安装在文章中不做说明,可自行百度谢谢 Ubuntu光盘镜像: 用于源代码编译,有闲置计算机或服务器可以下载服务器版(没有图形用户界面),只有一台

    2024年02月04日
    浏览(76)
  • 【Linux环境配置】EPYC7642双路服务器Ubuntu22.04安装配置纪要

    服务器核心配置为: 双路 EPYC7642 服务器, 显卡 GeForce RTX 3060 , HDMI输出, 千兆网卡x2 …; 补充采购配件: USB/TypeC转千兆网卡(用于笔记本和服务器直连办公), DVI公 to HDMI母转接头(适配老款显示器), VGA公对公显示线, HDMI音频分离器, HDMI线x2, USB转3.5mm外置声卡, 腾

    2024年01月22日
    浏览(99)
  • Linux/Ubuntu系统下使用VS Code配置C/C++开发环境

        在Ubuntu下,使用VS Code来编辑代码或进行开发非常方便,下面记录一下如何配置gcc/g++编译器和GDB调试工具。 macOS下使用VS Code配置gcc、gdb搭建C/C++开发环境,见 macOS系统下 准备工作: 1. 安装VS Code,过程略。 2. 为VS Code安装C/C++ Extension Pack 扩展组件,其他插件会附带安装 3

    2024年02月03日
    浏览(53)
  • 第一章:Linux(Ubuntu)环境下OpenCV的安装配置和实例,亲测可用

    目录 1、安装环境 1.1、安装C++开发环境,安装编译器GCC和G++ 1.2、安装build-essential 1.3、安装cmake 1.4、安装依赖库 1.5、安装OpenCV、下载OpenCV连接OpenCV 1.6、配置环境变量 1.7、查看是否安装成功 1.8、创建Opencv.pc 1.9、查看opencv版本 2、OpenCV测试 2.1、测试用例   任意文件夹下新建工程

    2024年02月08日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包