Ubuntu 安装 CUDA 与 CUDNN GPU加速引擎

这篇具有很好参考价值的文章主要介绍了Ubuntu 安装 CUDA 与 CUDNN GPU加速引擎。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

一、NVIDIA(英伟达)显卡驱动安装

        NVIDIA显卡驱动可以通过指令sudo apt purge nvidia*删除以前安装的NVIDIA驱动版本,重新安装。

1.1. 关闭系统自带驱动nouveau

        注意!在安装NVIDIA驱动以前需要禁止系统自带显卡驱动nouveau:可以先通过指令lsmod | grep nouveau查看nouveau驱动的启用情况,如果有输出表示nouveau驱动正在工作,如果没有内容输出则表示已经禁用了nouveau。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

  • 我的电脑有有输出,表示nouveau启动了,下面进行nouveau的禁用:
  • 在终端输入sudo gedit /etc/modprobe.d/blacklist.conf弹出blacklist.conf文件:

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

  • 在blacklist.conf文件末尾加上这两行,并保存:
blacklist nouveau
options nouveau modeset=0
  • 然后在终端中输入:
sudo update-initramfs -u  #应用更改
  • 重启,就禁止了ubuntu20.04自带的nouveau显卡驱动了,接下来我们就可以安心的安装NVIDIA510.54版本的驱动程序了。

2.2. NVIDIA驱动安装

        ubuntu20.04 安装NVIDIA驱动很容易,只只需要打开系统设置->软件和更新->附加驱动->选择NVIDIA驱动->应用更改。该界面会自动根据电脑上的GPU显示推荐的NVIDIA显卡驱动。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        NVIDIA(英伟达)显卡驱动安装完成后,在终端输入nvidia-smi输出如下图所示的结果就表示安装成功了。下图中绿色框内表明,安装的驱动支持的CUDA最高版本为11.4(注意这里需要重新启动电脑)。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

二、安装CUDA

2.1. 下载与安装CUDA

        如下图所示,这里以CUDA11.0.2为例,介绍ubuntu20.04系统上CUDA的安装。我们可以从NVIDIA官网CUDA下载页面,网址为https://developer.nvidia.com/cuda-toolkit-archive,点击CUDA Toolkit 11.0.2下载相应版本的CUDA11.0.2。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        在如下图所示的界面,以此选择Linux→\to→x86_64→\to→Ubuntu→\to→20.04。然后弹出三种安装方法,根据安装经验这里推荐采用runfile(local)方法,即选择如下图中的红圈中的选项。这是由于CUDA的安装过程需要很多依赖库文件,CUDA的run文件虽然比另外两种安装方法的文件大,但是它包含了所有的依赖库文件,所以采用相对来说很容易安装成功。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        在安装CUDA11.0之前需要首先安装一些相互依赖的库文件:

sudo apt-get install freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libgl1-mesa-glx libglu1-mesa libglu1-mesa-dev

        下面为安装CUDA11.0.2的Ubuntu安装指令:

wget https://developer.download.nvidia.com/compute/cuda/11.0.2/local_installers/cuda_11.0.2_450.51.05_linux.run
sudo sh cuda_11.0.2_450.51.05_linux.run

        运行上面指令后,会弹出如下界面,点击Continue,然后再输入accept

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        接着,如下图所示,在弹出的界面中通过Enter键,取消Driver450.51.05的安装,然后点击Install,等待

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

2.2. 配置CUDA的环境变量

        CUDA安装完成后,需要配置变量环境才能正常使用。首先在终端输入sudo gedit ~/.bashrc打开如下图所示的.bashrc文件。
然后,如下图所示在.bashrc文件的最后添加以下CUDA环境变量配置信息(我从不同的文章中看到这里添加的信息不仅相同,目前还不太清楚具体含义,所以这里仅仅罗列出它们):

export PATH=$PATH:/usr/local/cuda/bin  
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64  
export LIBRARY_PATH=$LIBRARY_PATH:/usr/local/cuda/lib64

        或

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64
export PATH=$PATH:/usr/local/cuda/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

注意:上面的CUDA环境变量配置方法有很多,本文的配置方法中的cuda不要指定具体的版本,主要是为了电脑中多个CUDA版本的切换。

        最后,在终端输入source ~/.bashrc或者重新启终端使之生效。这时,我们就可以在终端输入nvcc -V查看CUDA的安装信息,如下图所示,至此CUDA安装成功。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

2.3. CUDA测试

        系统安装CUDA包括两个部分:NVIDIA CUDA GPU计算工具包和NVIDIA CUD示例包两个部分。
如下图所示,Ubuntu20.04系统会默认地将CUDA的NVIDIA GPU计算工具包安装到/usr/local/文件夹下面,可以看到该文件夹下多了两个文件夹cudacuda-11.0

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        对CUDA安装是否成功,需要进入NVIDIA CUDA示例包,其位于/home/liang/NVIDIA_CUDA-11.0_Samples内,在该文件夹下打开终端,并输入make。然后进入1_Utilities/deviceQuery文件夹,并在终端执行./deviceQuery 命令,如下result=PASS则表示安装成功。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

三、cuDNN的安装与检测

3.1. cuDNN的安装

        从NVIDIA官网的cudnn下载页面上下载与安装CUDA对应的cudnn,网址为https://developer.nvidia.com/rdp/cudnn-download。选择Ubuntu20.04系统下,CUDA11.0.2对应的CUDNN v8.0.5版本,如下图所示:

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        对下载的cudnn-11.0-linux-x64-v8.0.5.39.tgz进行解压操作,得到一个文件夹cuda,命令为:

tar -zxvf cudnn-11.0-linux-x64-v8.0.5.39.tgz

        然后,使用下面两条指令复制cuda文件夹下的文件到/usr/local/cuda-11.0/lib64//usr/local/cuda-11.0/include/中。

cp cuda/lib64/* /usr/local/cuda-11.0/lib64/
cp cuda/include/* /usr/local/cuda-11.0/include/

        拷贝完成后,我们可以使用如下的命令查看CUDNN的信息:

cat /usr/local/cuda-11.0/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

3.2. CUDNN的检测

        从NVIDIA官网的cudnn下载页面上下载三个.deb格式的检测文件,如下图所示:

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习        在终端输入如下命令安装下载的三个.deb格式的检测文件:

dpkg -i libcudnn8-dev_8.0.5.39-1+cuda11.0_amd64.deb
dpkg -i libcudnn8-samples_8.0.5.39-1+cuda11.0_amd64.deb
dpkg -i libcudnn8_8.0.5.39-1+cuda11.0_amd64.deb

        通过上面三条指令,CUDNN的测试文件会自动安装在系统的/usr/src/cudnn_samples_v8文件夹下,进入mnistCUDNN下,执行命令make clean && make。如果结果如下图所示,则表示CUDNN安装成功。

四、CUDA的卸载

        进入到/usr/local/cuda-11.0/bin目录下,而不是cuda目录。然后打开终端,输入sudo ./cuda-uninstaller

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

        输入命令后,弹出如下界面,通过回车键选中三个选项,最后选中Done。执行完下面指令后,上面的cuda文件就删除了。
ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        最后,在终端输入命令sudo rm -rf /usr/local/cuda-11.0,就可以最终删除安装CUDA11.0和CUDNN v8.0.5了。
文章来源地址https://www.toymoban.com/news/detail-732401.html

        NVIDIA显卡驱动可以通过指令sudo apt purge nvidia*删除以前安装的NVIDIA驱动版本,重新安装。

1.1. 关闭系统自带驱动nouveau

        注意!在安装NVIDIA驱动以前需要禁止系统自带显卡驱动nouveau:可以先通过指令lsmod | grep nouveau查看nouveau驱动的启用情况,如果有输出表示nouveau驱动正在工作,如果没有内容输出则表示已经禁用了nouveau。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

  • 我的电脑有有输出,表示nouveau启动了,下面进行nouveau的禁用:
  • 在终端输入sudo gedit /etc/modprobe.d/blacklist.conf弹出blacklist.conf文件:

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

  • 在blacklist.conf文件末尾加上这两行,并保存:
blacklist nouveau
options nouveau modeset=0
  • 然后在终端中输入:
sudo update-initramfs -u  #应用更改
  • 重启,就禁止了ubuntu20.04自带的nouveau显卡驱动了,接下来我们就可以安心的安装NVIDIA510.54版本的驱动程序了。

2.2. NVIDIA驱动安装

        ubuntu20.04 安装NVIDIA驱动很容易,只只需要打开系统设置->软件和更新->附加驱动->选择NVIDIA驱动->应用更改。该界面会自动根据电脑上的GPU显示推荐的NVIDIA显卡驱动。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        NVIDIA(英伟达)显卡驱动安装完成后,在终端输入nvidia-smi输出如下图所示的结果就表示安装成功了。下图中绿色框内表明,安装的驱动支持的CUDA最高版本为11.4(注意这里需要重新启动电脑)。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

二、安装CUDA

2.1. 下载与安装CUDA

        如下图所示,这里以CUDA11.0.2为例,介绍ubuntu20.04系统上CUDA的安装。我们可以从NVIDIA官网CUDA下载页面,网址为https://developer.nvidia.com/cuda-toolkit-archive,点击CUDA Toolkit 11.0.2下载相应版本的CUDA11.0.2。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        在如下图所示的界面,以此选择Linux→\to→x86_64→\to→Ubuntu→\to→20.04。然后弹出三种安装方法,根据安装经验这里推荐采用runfile(local)方法,即选择如下图中的红圈中的选项。这是由于CUDA的安装过程需要很多依赖库文件,CUDA的run文件虽然比另外两种安装方法的文件大,但是它包含了所有的依赖库文件,所以采用相对来说很容易安装成功。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        在安装CUDA11.0之前需要首先安装一些相互依赖的库文件:

sudo apt-get install freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libgl1-mesa-glx libglu1-mesa libglu1-mesa-dev

        下面为安装CUDA11.0.2的Ubuntu安装指令:

wget https://developer.download.nvidia.com/compute/cuda/11.0.2/local_installers/cuda_11.0.2_450.51.05_linux.run
sudo sh cuda_11.0.2_450.51.05_linux.run

        运行上面指令后,会弹出如下界面,点击Continue,然后再输入accept

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        接着,如下图所示,在弹出的界面中通过Enter键,取消Driver450.51.05的安装,然后点击Install,等待

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

2.2. 配置CUDA的环境变量

        CUDA安装完成后,需要配置变量环境才能正常使用。首先在终端输入sudo gedit ~/.bashrc打开如下图所示的.bashrc文件。
然后,如下图所示在.bashrc文件的最后添加以下CUDA环境变量配置信息(我从不同的文章中看到这里添加的信息不仅相同,目前还不太清楚具体含义,所以这里仅仅罗列出它们):

export PATH=$PATH:/usr/local/cuda/bin  
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64  
export LIBRARY_PATH=$LIBRARY_PATH:/usr/local/cuda/lib64

        或

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64
export PATH=$PATH:/usr/local/cuda/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

注意:上面的CUDA环境变量配置方法有很多,本文的配置方法中的cuda不要指定具体的版本,主要是为了电脑中多个CUDA版本的切换。

        最后,在终端输入source ~/.bashrc或者重新启终端使之生效。这时,我们就可以在终端输入nvcc -V查看CUDA的安装信息,如下图所示,至此CUDA安装成功。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

2.3. CUDA测试

        系统安装CUDA包括两个部分:NVIDIA CUDA GPU计算工具包和NVIDIA CUD示例包两个部分。
如下图所示,Ubuntu20.04系统会默认地将CUDA的NVIDIA GPU计算工具包安装到/usr/local/文件夹下面,可以看到该文件夹下多了两个文件夹cudacuda-11.0

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        对CUDA安装是否成功,需要进入NVIDIA CUDA示例包,其位于/home/liang/NVIDIA_CUDA-11.0_Samples内,在该文件夹下打开终端,并输入make。然后进入1_Utilities/deviceQuery文件夹,并在终端执行./deviceQuery 命令,如下result=PASS则表示安装成功。

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

三、cuDNN的安装与检测

3.1. cuDNN的安装

        从NVIDIA官网的cudnn下载页面上下载与安装CUDA对应的cudnn,网址为https://developer.nvidia.com/rdp/cudnn-download。选择Ubuntu20.04系统下,CUDA11.0.2对应的CUDNN v8.0.5版本,如下图所示:

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        对下载的cudnn-11.0-linux-x64-v8.0.5.39.tgz进行解压操作,得到一个文件夹cuda,命令为:

tar -zxvf cudnn-11.0-linux-x64-v8.0.5.39.tgz

        然后,使用下面两条指令复制cuda文件夹下的文件到/usr/local/cuda-11.0/lib64//usr/local/cuda-11.0/include/中。

cp cuda/lib64/* /usr/local/cuda-11.0/lib64/
cp cuda/include/* /usr/local/cuda-11.0/include/

        拷贝完成后,我们可以使用如下的命令查看CUDNN的信息:

cat /usr/local/cuda-11.0/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

3.2. CUDNN的检测

        从NVIDIA官网的cudnn下载页面上下载三个.deb格式的检测文件,如下图所示:

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习        在终端输入如下命令安装下载的三个.deb格式的检测文件:

dpkg -i libcudnn8-dev_8.0.5.39-1+cuda11.0_amd64.deb
dpkg -i libcudnn8-samples_8.0.5.39-1+cuda11.0_amd64.deb
dpkg -i libcudnn8_8.0.5.39-1+cuda11.0_amd64.deb

        通过上面三条指令,CUDNN的测试文件会自动安装在系统的/usr/src/cudnn_samples_v8文件夹下,进入mnistCUDNN下,执行命令make clean && make。如果结果如下图所示,则表示CUDNN安装成功。

四、CUDA的卸载

        进入到/usr/local/cuda-11.0/bin目录下,而不是cuda目录。然后打开终端,输入sudo ./cuda-uninstaller

ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习

        输入命令后,弹出如下界面,通过回车键选中三个选项,最后选中Done。执行完下面指令后,上面的cuda文件就删除了。
ubuntu 安装cuda和cudnn,Ubuntu20,人工智能,机器学习,语言模型,深度学习
        最后,在终端输入命令sudo rm -rf /usr/local/cuda-11.0,就可以最终删除安装CUDA11.0和CUDNN v8.0.5了。

到了这里,关于Ubuntu 安装 CUDA 与 CUDNN GPU加速引擎的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • ubuntu22.04版本安装CUDA及cuDNN

    此方法仅针对ubuntu22.04下linux系统安装及配置深度学习环境,其他版本不知可通用! 1-1 先更新所有的软件包 1-2 独立显卡驱动-安装 注:在安装显卡驱动时需要进入BIOS关闭安全启动模式。 1-3 验证

    2023年04月08日
    浏览(50)
  • 在Ubuntu上安装CUDA和cuDNN以及验证安装步骤

    本教程详细介绍了如何在Ubuntu操作系统上安装CUDA(NVIDIA的并行计算平台)和cuDNN(深度神经网络库),以及如何验证安装是否成功。通过按照这些步骤操作,您将能够配置您的系统以利用GPU加速深度学习和其他计算密集型任务。此外,还包括如何设置环境变量和编译运行示例

    2024年02月10日
    浏览(45)
  • ubuntu20.04安装cuda11.4以及cudnn

    系统:ubuntu20.04 硬件配置:GPU3080、CPU未知 通过《软件和更新》在附加驱动选项中添加了驱动: 1.检查自己电脑支持的cuda 4. 下载cuda11.4.2 会有卡顿,大概等1分钟;因之前安装了驱动,因此在下面的步骤中需要取消安装驱动。 Continue accept 取消Driver 添加环境变量: 测试CUDA 安装

    2024年02月03日
    浏览(49)
  • Ubuntu22.04安装CUDA11.8和CUDNN

    下载CUDA11.8 选择对应的系统 架构 OS 版本 逐步执行上图命令 编辑环境变量文件 配置环境变量 重启 重启 重启 重要的事情说三边 查看版本 结果 下载cudnn 找到适合你的cudnn https://developer.nvidia.com/rdp/cudnn-archive#a-collapse7415-10 安装cudnn 下载好以后解压(注意核对下载和解压名称是否

    2024年02月09日
    浏览(49)
  • ubuntu安装cuda-10.2以及对应版本的cudnn

    下面开始进行Cuda的安装,开始之前我们可以手动更换一下源:这里推荐阿里云的源,如果不懂的自行百度。同时要先安装显卡驱动。 换完源后: 更新一下源 开始安装前再次却一下ubuntu版本:打开终端ctrl+alt+t 输出如下结果: 安装ubuntu-drivers,我们可以通过ubuntu-drivers检测你的

    2024年02月02日
    浏览(55)
  • Ubuntu18中NVIDIA,cuda,cudnn,pytorch安装

    注意:nvidia驱动和cuda,cudnn,pytroch,python的对应关系 linux安装pytorch(包括cuda与cudnn)_linux清华园按照pytorch1.12_BryceRui的博客-CSDN博客 安装流程:安装cuda(包括nvidia驱动)+ cudnn + python安装 注意:nvidia驱动可以在安装cuda时一起安装 1、安装NVIDIA驱动(该驱动也可以在cuda安装时一起

    2024年02月09日
    浏览(38)
  • 笔记--Ubuntu20.04安装Nvidia驱动、CUDA Toolkit和CUDA CuDNN

    目录 1--安装Nvidia驱动 2--安装CUDA 2-1--禁用nouveau 2-2--选择CUDA Toolkit 2-3--下载和安装CUDA Toolkit 2-4--配置环境变量 2-5--测试是否安装成功: 3--安装CUDA CuDNN 4--测试pytorch能否使用Cuda ① 查看可安装的Nvidia驱动版本: ② 安装相应版本的Nvidia驱动: 博主这里选择的是第一个,也可以安

    2024年02月02日
    浏览(61)
  • ubuntu 22.04安装cuda、cudnn、conda、pytorch

    视频连接 cuda 11.8 点击进入 复制第一行代码,在终端输入下载 找到下载的文件位置,复制第二行代码 guide

    2024年02月10日
    浏览(45)
  • 『heqingchun-ubuntu系统下安装cuda与cudnn』

    1.更新 2.基础工具 1.文件下载 网址 依次点击 (1)“CUDA Toolkit 11.6.2” (2)“Linux” (3)“x86_64” (4)“Ubuntu” (5)“20.04” (6)“runfile(local)” 在\\\" Installation Instructions: \\\"下方为下载安装指令 下载指令( 文件需下载到英文路径 ),如: 在“/home/heqingchun/soft/nvidia”路径中下载得到“cuda_11.

    2024年02月07日
    浏览(49)
  • 【Ubuntu20.04安装Nvidia驱动、CUDA和CUDNN】

    官网链接:https://www.nvidia.cn/Download/index.aspx?lang=cn 或者https://www.nvidia.cn/geforce/drivers/ 注 :Ubuntu系统是不区别显卡类别的显卡驱动,一般来说,下载最新版本的驱动即可;Win系统是需要根据显卡来选择具体的驱动版本。 1.2.1 NVIDIA 驱动与 Nouveau 驱动不兼容 由于系统当前正在使用

    2024年02月11日
    浏览(73)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包