Linux和Windows系统下:安装Anaconda、Paddle、tensorflow、pytorch,GPU[cuda、cudnn]、CPU安装教学,以及查看CPU、GPU内存使用情况

这篇具有很好参考价值的文章主要介绍了Linux和Windows系统下:安装Anaconda、Paddle、tensorflow、pytorch,GPU[cuda、cudnn]、CPU安装教学,以及查看CPU、GPU内存使用情况。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

Linux和Windows系统下安装深度学习框架所需支持:Anaconda、Paddlepaddle、Paddlenlp、pytorch,含GPU、CPU版本详细安装过程

1.下载 Anaconda 的安装包

Anaconda安装:Anaconda是一个开源的Python发行版本,其包含了conda、Python等180多个科学包及其依赖项。使用Anaconda可以通过创建多个独立的Python环境,避免用户的Python环境安装太多不同版本依赖导致冲突。

Anaconda 是一个免费开源的 Python 和 R 语言的发行版本,用于计算科学,Anaconda 致力于简化包管理和部署。Anaconda 的包使用软件包管理系统 Conda 进行管理。Conda 是一个开源包管理系统和环境管理系统,可在 Windows、macOS 和 Linux 上运行。本文档为你介绍 Anaconda 安装方式。

1.1 Linux下载Anaconda

首先需要在官网上选择需要安装的版本。

官网地址:https://repo.anaconda.com/archive/ 如选择当前最新版本进行安装:

https://repo.anaconda.com/archive/Anaconda3-2023.07-0-Linux-x86_64.sh

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

然后下载该安装包。

下载命令
wget  https://repo.anaconda.com/archive/Anaconda3-2023.07-0-Linux-x86_64.sh
  1. 进入安装包所在目录,先对安装包进行赋权,再执行安装程序
#查看路径
pwd
赋权命令:
chmod +x Anaconda3-2023.07-0-Linux-x86_64.sh
安装命令:
sh Anaconda3-2023.07-0-Linux-x86_64.sh
  1. 出现如下画面:

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

  1. 点击 Enter(回车键),出现 More,继续按 Enter,最后输入 yes 同意用户许可证就行。

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

  1. 直至出现以下画面,就安装成功了!

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

1.2 Windows下载Anaconda

参考文章:https://blog.csdn.net/sinat_39620217/article/details/115861876

  1. 第一步 下载
  • 在 Anaconda官网 选择下载Windows Python3.8 64-Bit版本。

  • 确保已经安装Visual C++ Build Tools(可以在开始菜单中找到),如未安装,请点击 下载安装。

  1. 第二步 安装

运行下载的安装包(以.exe为后辍),根据引导完成安装, 用户可自行修改安装目录(如下图)

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

  1. 第三步 使用

点击Windows系统左下角的Windows图标,打开:所有程序->Anaconda3/2(64-bit)->Anaconda Prompt在命令行中执行指令即可

后续框架库包安装同linux

2.环境变量配置

2.1 linux环境变量配置

Linux上成功安装anaconda后-bash: conda: command not found

如题,出现这个问题可能是环境变量配置有问题。

省流请看这里:执行cat ~/.bashrc命令查看.bashrc文件内容,若文件中没有export PATH="XXX/anaconda3/bin:$PATH"说明是环境变量未配置,可以继续往下看了;若文件中有此路径,请退出本文,自行校对一下路径。

  1. 打开.bashrc文件
vim ~/.bashrc
  1. 在最后一行新增 anaconda 路径
export PATH="XXX/anaconda3/bin:$PATH"
  1. 保存文件(按esc后输入:wq回车)并使环境变量生效[打开文件后按i进入编辑模式,按Esc退出编辑模式,shift+冒号然后输入wq 保存文件并退出]

注意:这里是anaconda的安装路径,根据自己的安装路径即可

source ~/.bashrc

执行以上三步后,便可在linux上使用conda命令了!

2.2 Windows 环境变量配置

其实,以上的环境变量配置,相当于在window环境下的环境变量加上环境变量。如在window环境下安装anaconda,安装过程中会提示是否将环境变量加入到path中,如果选上该选项,便可省去很多麻烦,安装完后直接在终端使用conda命令;

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

如果没有选上,是无法直接使用conda命令的,需要在系统的环境变量中加上安装路径才可以使用conda命令。自动添加的安装路径的步骤:此电脑–>属性–>高级系统设置–>环境变量–>系统变量–>Path添加anaconda的安装路径。

3.用 conda 创建虚拟环境

#1.创建指定python版本的环境
conda create --name paddlenlp python=3.8
#2. 激活环境
conda activate paddlenlp
#3.退出环境
conda deactivate

4.安装项目依赖包&深度学习框架

4.0 其他环境检查

4.0.1 确认 Python 安装路径

确认您的 conda 虚拟环境和需要安装 PaddlePaddle 的 Python 是您预期的位置,因为您计算机可能有多个 Python。进入 Anaconda 的命令行终端,输入以下指令确认 Python 位置。

输出 Python 路径的命令为:

根据您的环境,您可能需要将说明中所有命令行中的 python3 替换为具体的 Python 路径

4.0.2 检查 Python 版本

使用以下命令确认版本

4.0.3 检查系统环境

确认 Python 和 pip 是 64bit,并且处理器架构是 x86_64(或称作 x64、Intel 64、AMD64)架构。下面的第一行输出的是”64bit”,第二行输出的是”x86_64(或 x64、AMD64)” 即可:

python3 -c "import platform;print(platform.architecture()[0]);print(platform.machine())"

4.1安装项目依赖包

安装项目requirement.txt文件依赖:
pip install -r requirement.txt
生成requirement.txt文件:
pip freeze > requirements.txt

4.2 安装Paddle&Paddlenlp

4.2.1 安装paddle

官网:https://www.paddlepaddle.org.cn/install/quick?docurl=/documentation/docs/zh/install/pip/linux-pip.html

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

windows安装使用win下指令即可

根据版本进行安装 选择下面您要安装的 PaddlePaddle

安装完成后您可以使用 python3 进入 python 解释器,

输入import paddle ,
再输入 paddle.utils.run_check()

如果出现PaddlePaddle is installed successfully!,说明您已成功安装。

4.2.1.1添加清华源(可选)

对于国内用户无法连接到 Anaconda 官方源的可以按照以下命令添加清华源:

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes

4.2.2CUDA安装

4.2.1.2 CPU 版的 PaddlePaddle

如果您的计算机没有 NVIDIA® GPU,请安装 CPU 版的 PaddlePaddle

conda install paddlepaddle==2.4.2 --channel https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/
4.2.1.3 GPU 版的 PaddlePaddle
  • 对于 CUDA 10.2,需要搭配 cuDNN 7.6.5(多卡环境下 NCCL>=2.7),安装命令为:
conda install paddlepaddle-gpu==2.4.2 cudatoolkit=10.2 --channel https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/


  • 对于 CUDA 11.2,需要搭配 cuDNN 8.2.1(多卡环境下 NCCL>=2.7),安装命令为:
conda install paddlepaddle-gpu==2.4.2 cudatoolkit=11.2 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/ -c conda-forge

  • 对于 CUDA 11.6,需要搭配 cuDNN 8.4.0(多卡环境下 NCCL>=2.7),安装命令为:
conda install paddlepaddle-gpu==2.4.2 cudatoolkit=11.6 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/ -c conda-forge

  • 对于 CUDA 11.7,需要搭配 cuDNN 8.4.1(多卡环境下 NCCL>=2.7),安装命令为:
conda install paddlepaddle-gpu==2.4.2 cudatoolkit=11.7 -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/Paddle/ -c conda-forge

您可参考 NVIDIA 官方文档了解 CUDA 和 CUDNN 的安装流程和配置方法,请见 CUDA,cuDNN

4.2.1.4 pip安装
pip install paddlepaddle-gpu==2.4.2.post112 -f https://www.paddlepaddle.org.cn/whl/linux/mkl/avx/stable.html
4.2.1.5 CUDA Toolkit 11.2 官网下载

cuda-toolkit官网链接

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

CUDA Toolkit 11.2 Downloads 链接

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

wget https://developer.download.nvidia.com/compute/cuda/11.2.0/local_installers/cuda_11.2.0_460.27.04_linux.run
sudo sh cuda_11.2.0_460.27.04_linux.run

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节
ubuntu环境下需额外注意:

┌──────────────────────────────────────────────────────────────────────────────┐
│  End User License Agreement                                                  │
│  --------------------------                                                  │
│                                                                              │
│  The CUDA Toolkit End User License Agreement applies to the                  │
│  NVIDIA CUDA Toolkit, the NVIDIA CUDA Samples, the NVIDIA                    │
│  Display Driver, NVIDIA Nsight tools (Visual Studio Edition),                │
│  and the associated documentation on CUDA APIs, programming                  │
│  model and development tools. If you do not agree with the                   │
│  terms and conditions of the license agreement, then do not                  │
│  download or use the software.                                               │
│                                                                              │
│  Last updated: Nov 2, 2020.                                                  │
│                                                                              │
│                                                                              │
│  Preface                                                                     │
│  -------                                                                     │
│                                                                              │
│  The Software License Agreement in Chapter 1 and the Supplement              │
│  in Chapter 2 contain license terms and conditions that govern               │
│  the use of NVIDIA software. By accepting this agreement, you                │
│──────────────────────────────────────────────────────────────────────────────│
│ Do you accept the above EULA? (accept/decline/quit):                         │
│ accept                                                                       │
└──────────────────────────────────────────────────────────────────────────────┘
输入accept

┌──────────────────────────────────────────────────────────────────────────────┐
│ CUDA Installer                                                               │
│ - [ ] Driver                                                                 │
│      [ ] 460.27.04                                                           │
│ + [X] CUDA Toolkit 11.2                                                      │
│   [X] CUDA Samples 11.2                                                      │
│   [X] CUDA Demo Suite 11.2                                                   │
│   [X] CUDA Documentation 11.2                                                │
│   Options                                                                    │
│   Install                                                                    │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│                                                                              │
│ Up/Down: Move | Left/Right: Expand | 'Enter': Select | 'A': Advanced options │
└──────────────────────────────────────────────────────────────────────────────┘
#把默认选中的driver取消选中 然后install

4.2.1.6 设置环境变量
 vim ~/.bashrc
 #复制
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.2/lib64
export PATH=$PATH:/usr/local/cuda-11.2/bin
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-11.2

source ~/.bashrc

安装完成:输入 nvcc -V 验证 显示

nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2020 NVIDIA Corporation
Built on Mon_Nov_30_19:08:53_PST_2020
Cuda compilation tools, release 11.2, V11.2.67
Build cuda_11.2.r11.2/compiler.29373293_0
4.2.1.7验证安装(安装paddle遇到问题)

安装完成后您可以使用 python3 进入 python 解释器,输入import paddle ,再输入 paddle.utils.run_check()

import paddle
paddle.utils.run_check()

如果出现PaddlePaddle is installed successfully!,说明您已成功安装。

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

报错:ImportError: libcudart.so.11.0: cannot open shared object file: No such file or directory

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

尝试玩下面步骤,如果没效果,请重新安装一下paddle

解决办法

  • 简约版(省流)
    在激活后执行export LD_LIBRARY_PATH="$CONDA_PREFIX/lib"将包括libcudart.so.11.0如果你想让它自动化,将此内容添加到env-prefix/etc/conda/activate.d/env_vars.sh,这将在conda activate上运行脚本并设置LD_LIBRARY_PATH
cd $CONDA_PREFIX
mkdir -p ./etc/conda/activate.d
touch ./etc/conda/activate.d/env_vars.sh

#写入 并保存
vim ./etc/conda/activate.d/env_vars.sh
export LD_LIBRARY_PATH="$CONDA_PREFIX/lib"

  • 详细版

    1. activate你的虚拟环境,查看虚拟环境路径
    echo $CONDA_PREFIX
    
    
    1. 去这个路径下建立这些文件夹和文件。在activate的时候,会自动运行activate.d/env_vars.sh,deactivate的时候,会自动运行deactivate.d/env_vars.sh。你可以设置任何你想设置的变量,这里我们更改LD_LIBRARY_PATH
    cd $CONDA_PREFIX
    mkdir -p ./etc/conda/activate.d
    mkdir -p ./etc/conda/deactivate.d
    touch ./etc/conda/activate.d/env_vars.sh
    touch ./etc/conda/deactivate.d/env_vars.sh
    
    
    1. 编辑activate.d/env_vars.sh,注意换成你的名字,注意=前后不能有空格哦
    export OLD_LD_LIBRARY_PATH=${LD_LIBRARY_PATH}
    export LD_LIBRARY_PATH=anaconda3/envs/your_name/lib64
    
    

    编辑deactivate.d/env_vars.sh,这样deactivate的时候,会恢复设置

    export LD_LIBRARY_PATH=${OLD_LD_LIBRARY_PATH}
    unset OLD_LD_LIBRARY_PATH
    
    
    1. deactivate虚拟环境,再次activate你的虚拟环境,再查看
    echo $CONDA_PREFIX
    
    

    可以看到已经变成了anaconda3/envs/your_name/lib64。如果这个路径下的gcc已经含有了GLIBCXX_3.4.20,那么就不再会报错了。

ImportError: libssl.so.1.1: cannot open shared object file: No such file or directory
  1. 原因介绍:PR50791之前为了在镜像里打入python3.10,python3.11,将镜像里的Openssl从1.0.2升级到1.1.1会导致一些本地openssl不是1.1.1的用户在import paddle时候报错如下:

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

  1. 导致的问题:升级之后libpaddle.so依赖了libssl.so1.1.1和libcrypto.so

    第三方库第三方库brpc.cmake中find_package(OPENSSL)在openssl1.0.2时得到的是静态库,升级为1.1.1后得到的是动态库libssl.so,故导致libpaddle.so link了libssl.so

CentOS 7 安装paddle develop之后 libssl.so.1.1: cannot open shared object file

该问题出现在paddle2.5.1版本
* 解决方案1:

> 降低paddlepaddle的版本。亲测有效,错误libssl.so.1.1: cannot open shared object
> file: No such file or directory消失了 我用的是paddlepaddle==2.4.0

	**或者使用paddle develop也可以**

当然推荐解决方案中:安装paddle-GPU /CPU 2.5.2 版本 develop是2.6.0版本了把fliud相关老的算子都删除了,跑比较老的项目会出bug。

不推荐:paddlepaddle-gpu==5.2.1.post112 别加.post112

python -m pip install paddlepaddle-gpu==2.5.2 -f https://www.paddlepaddle.org.cn/whl/linux/mkl/avx/stable.html

硬件信息:Please NOTE: device: 0, GPU Compute Capability: 7.0, Driver API Version: 11.2, Runtime API Version: 11.8 device: 0, cuDNN Version: 8.4.
* **解决方案二:**
  <font color=red>解除依赖,用find_library找到libssl.a和libcrypto.a代替libssl.so和libcrypto.so</font>
  
	解决方案中的命令行指令应该如下:首先,你需要使用find_library命令来找到libssl.a和libcrypto.a的位置。这可以通过CMake的find_library函数完成。示例代码如下:
	
	cmake
	
	```bash
	find_library(LIBSSL_STATIC_LIBRARY NAMES ssl libssl PATHS /path/to/your/libssl)  
	find_library(LIBCRYPTO_STATIC_LIBRARY NAMES crypto libcrypto PATHS /path/to/your/libcrypto)
	```
	
	>上述代码将会查找并设置LIBSSL_STATIC_LIBRARY和LIBCRYPTO_STATIC_LIBRARY变量为静态库的位置。
	
	然后,你需要链接这些静态库到你的目标库或可执行文件。在CMake中,可以使用target_link_libraries函数来完成。示例代码如下:
	

	
	```bash
	target_link_libraries(your_target ${LIBSSL_STATIC_LIBRARY} ${LIBCRYPTO_STATIC_LIBRARY})
	```
	
	上述代码将会把找到的libssl.a和libcrypto.a静态库链接到你的目标your_target。
	
	>请注意替换/path/to/your/libssl和/path/to/your/libcrypto为你的实际库文件路径,并将your_target替换为你实际的目标名称。这些代码应该放在你的CMakeLists.txt文件中适当的位置。

相关错误提示:-bash: syntax error near unexpected token `LIBCRYPTO_STATIC_LIBRARY'
这个错误通常意味着在bash环境中,你尝试运行了CMake语法,而bash并不能正确解析这种语法。**LIBCRYPTO_STATIC_LIBRARY是CMake中的一个变量,如果你在bash命令行中直接运行这个变量,会导致bash无法解析并报错。**

你应该在CMakeLists.txt文件中使用这些变量,而不是直接在bash命令行中使用。如果你需要在bash命令行中查看这个变量的值,你可以使用cmake -P命令,创建一个小的CMake脚本打印这个变量的值。

例如,创建一个文件名为print_vars.cmake的文件,内容如下:


```bash
message(${LIBCRYPTO_STATIC_LIBRARY})

```
然后在bash命令行中运行以下命令:

	

```bash
cmake -P print_vars.cmake
```
这样就可以在bash命令行中打印出LIBCRYPTO_STATIC_LIBRARY变量的值了。记住,CMake变量和命令应该在CMake上下文中使用,而不是直接在bash命令行中使用。

参考链接:

  • 解决方案汇总

  • 解决方案1

  • 解决方案二issue

ubuntu下libssl.so.1.1: cannot open shared object file: No such file or directory
  • 解决方案

Use the following command to download the necessary .deb package:

wget http://nz2.archive.ubuntu.com/ubuntu/pool/main/o/openssl/libssl1.1_1.1.1f-1ubuntu2.19_amd64.deb

After downloading, you can install the package using apt-get as shown below:

sudo apt-get install ./libssl1.1_1.1.1f-1ubuntu2.19_amd64.deb

参考链接:

解决方案参考链接

4.2.3 cuDNN

NVIDIA cuDNN官网链接

cuDNN下载链接

NVIDIA CUDA® 深度神经网络库 (cuDNN) 是一个 GPU 加速的深度神经网络基元库,能够以高度优化的方式实现标准例程(如前向和反向卷积、池化层、归一化和激活层)。

全球的深度学习研究人员和框架开发者都依赖 cuDNN 来实现高性能 GPU 加速。借助 cuDNN,研究人员和开发者可以专注于训练神经网络及开发软件应用,而不必花时间进行低层级的 GPU 性能调整。cuDNN 可加速广泛应用的深度学习框架,包括 Caffe2、Chainer、Keras、MATLAB、MxNet、PaddlePaddle、PyTorch 和 TensorFlow。
paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

  • cuDNN 的主要特性
    • 为各种常用卷积实现了 Tensor Core 加速,包括 2D 卷积、3D 卷积、分组卷积、深度可分离卷积以及包含 NHWC 和 NCHW 输入及输出的扩张卷积
    • 为诸多计算机视觉和语音模型优化了内核,包括 ResNet、ResNext、EfficientNet、EfficientDet、SSD、MaskRCNN、Unet、VNet、BERT、GPT-2、Tacotron2 和 WaveGlow
    • 支持 FP32、FP16、BF16 和 TF32 浮点格式以及 INT8 和 UINT8 整数格式
    • 4D 张量的任意维排序、跨步和子区域意味着可轻松集成到任意神经网络实现中
    • 能为各种 CNN 体系架构上的融合运算提速

部分提示:Linux系统:CentOS7:sudo: apt-get:找不到命令”的解决方法

原因分析:这是由于CentOS的软件安装工具不是apt-get,而是yum,使用yum命令代替apt-get即可。

4.2.3.1 Linux下安装

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

  • 准备文件

下载后解压:tar vxf cudnn-10.1-linux-x64-v8.0.5.39.tgz
解压后得到 cuda 的文件夹,重命名为 cudnn_8.0.5, 并拷贝到/usr/local/下:

sudo cp -r -d ./cudnn_8.0.5 usr/local/

把 / usr/local/cudnn_8.0.5 中的内容复制到 /usr/local/cuda/include 中

sudo cp /usr/local/cudnn_8.0.5/include/* usr/local/cuda/include/

重置读写权限

sudo chmod a+r /usr/local/cuda/include/cudnn.h
  • 添加软链接环境变量

/usr/local/cudnn_8.0.5/lib64添加到环境变量 LD_LIBRARY_PATH 中

gedit ~/.bashrc

在最后添加:

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cudnn__8.0.5/lib64

使环境变量生效:

source ~/.bashrc
4.2.3.1 ubuntu下安装

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节
自行根据实际情况选择:ubuntu 20.04 、ubuntu 16.04 ubuntu 18.04 版本

#依次安装
sudo dpkg -i libcudnn8_8.1.1.33-1+cuda11.2_amd64.deb
sudo dpkg -i libcudnn8-dev_8.1.1.33-1+cuda11.2_amd64.deb
sudo dpkg -i libcudnn8-samples_8.1.1.33-1+cuda11.2_amd64.deb
  • 验证cuDNN可用
    #官方说法:To verify that cuDNN is installed and is running properly, compile the mnistCUDNN sample located in the /usr/src/cudnn_samples_v8 directory in the debian file.
# 将cuDNN例子复制到可写路径中
cp -r /usr/src/cudnn_samples_v8/ $HOME
​
# 转到可写路径
cd  ~/cudnn_samples_v8/mnistCUDNN
​
# 编译文件。
sudo make clean 
sudo make
​
# 运行样例程序。
sudo ./mnistCUDNN

如果成功运行,会显示下列信息:

bai@ubuntu:~/cudnn_samples_v8/mnistCUDNN$ sudo ./mnistCUDNN
Executing: mnistCUDNN
cudnnGetVersion() : 8101 , CUDNN_VERSION from cudnn.h : 8101 (8.1.1)
Host compiler version : GCC 9.3.0

There are 2 CUDA capable devices on your machine :
device 0 : sms 30  Capabilities 6.1, SmClock 1582.0 Mhz, MemSize (Mb) 12196, MemClock 5705.0 Mhz, Ecc=0, boardGroupID=0
device 1 : sms 30  Capabilities 6.1, SmClock 1582.0 Mhz, MemSize (Mb) 12192, MemClock 5705.0 Mhz, Ecc=0, boardGroupID=1
Using device 0

Testing single precision
Loading binary file data/conv1.bin
Loading binary file data/conv1.bias.bin

......

Resulting weights from Softmax:
0.0000000 0.0000008 0.0000000 0.0000002 0.0000000 0.9999820 0.0000154 0.0000000 0.0000012 0.0000006 

Result of classification: 1 3 5

Test passed!

#查看cudnn版本
cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

4.2.3.1 centos下安装

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

#依次安装
yum install libcudnn8-8.1.1.33-1.cuda11.2.x86_64.rpm
yum install libcudnn8-devel-8.1.1.33-1.cuda11.2.x86_64.rpm
yum install libcudnn8-samples-8.1.1.33-1.cuda11.2.x86_64.rpm

即可

4.2.4 安装paddlenlp

  • 环境依赖

    • python >= 3.7
    • paddlepaddle >= 2.3
  • pip安装

#创建名为my_paddlenlp的环境,指定Python版本为3.8
conda create -n my_paddlenlp python=3.8
#进入my_paddlenlp环境
conda activate my_paddlenlp

#安装PaddleNLP

pip install --upgrade paddlenlp>=2.0.0rc -i https://pypi.org/simple

pip install --upgrade paddlenlp>=2.0.0rc -i https://pypi.tuna.tsinghua.edu.cn/simple

github代码会跟随开发进度不断更新:或者可通过以下命令安装最新 develop 分支代码:

pip install --pre --upgrade paddlenlp -f https://www.paddlepaddle.org.cn/whl/paddlenlp.html

按如上方式配置后,即可在环境中使用PaddleNLP了,命令行输入python回车后,import paddlenlp试试吧,之后再次使用都可以通过打开’所有程序->Anaconda3/2(64-bit)->Anaconda Prompt’,再执行conda activate my_paddlenlp进入环境后,即可再次使用PaddleNLP。

问题一: 相关pip问题默认镜像问题(trusted-host问题),安装设定清华源即可

进入虚拟环境,查看pip安装路径

whereis pip


pip: /usr/bin/pip3.8 /etc/pip.conf /root/anaconda3/envs/paddlenlp/bin/pip

#查看pip.conf,修改成清华源,:wq 保存即可
vim /etc/pip.conf
[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple/
[install]
trusted-host=pypi.tuna.tsinghua.edu.cn

问题二:报错提示:pip install --use-pep517
pip isntall --use-pep517 -U paddlenlp
  • 代码安装
git clone https://github.com/PaddlePaddle/PaddleNLP.git
cd PaddleNLP
git checkout develop

如果遇到:github 报错 Failed to connect to github.com port 443:connection timed out、一般原因:电脑里开启了代理,例如开启了翻墙软件等,就会造成这个原因

取消全局代理:
git config --global --unset http.proxy
 
git config --global --unset https.proxy

4.3 安装pytorch

4.3.1 GPU版本安装

方法一:

安装 pytorch 需要注意 torch 与 torchvision 的版本对应,参照以下网址对照:

https://github.com/pytorch/vision

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

windows安装使用win下指令即可

从官网上找到适合自己版本的安装pytorch的指令 https://pytorch.org/get-started/locally/

  1. 创建虚拟环境,参考3.用 conda 创建虚拟环境

  2. 安装pytorch

conda install pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia
方法二

先在以下三个网站下载需要的安装包(根据自己的驱动选择):

  1. Index of /anaconda/cloud/pytorch/linux-64/ | 清华大学开源软件镜像站 | Tsinghua Open Source
  2. Mirror https://download.pytorch.org/whl/cu100/torch_stable.html
  3. https://download.pytorch.org/whl/torch_stable.html

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节
在conda环境下安装:

conda activate pytorch1.10.0 # 进入conda环境,这个是我之前创建好的
cd Download
pip install torchaudio-0.8.0-cp38-cp38m-linux_x86_64.whl
pip install torchvision-0.8.0-cp38-cp38m-linux_x86_64.whl
pip install torchvision-0.9.0+cu111-cp38-cp38m-linux_x86_64.whl

4.3.2 CPU版本安装

参考:https://blog.csdn.net/sinat_39620217/article/details/115483807

pip install torch torchvision torchaudio

4.4 安装tensorflow2.6.0-gpu(conda环境下)

根据TensorFlow 官网,我们选取CUDA11.2搭配cuDNN8.1安装,NVIDIA驱动版本尽量选460系列
paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

conda activate tensorflow2.6.0 # 进入conda环境,这个是我之前创建好的
pip install tensorflow-gpu==2.6.0

其他加速库安装参考前面

5.Linux查看CPU、GPU内存使用

5.1 查看 CPU 内存使用情况

1、输入命令:top,显示如下

top - 17:09:22 up 12 days, 23:10, 12 users,  load average: 1.69, 1.43, 1.27
Tasks: 885 total,   3 running, 877 sleeping,   4 stopped,   1 zombie
%Cpu(s):  2.9 us,  0.6 sy,  0.0 ni, 95.3 id,  1.2 wa,  0.0 hi,  0.0 si,  0.0 st
KiB Mem : 13150492+total, 11463488 free, 20194752 used, 99846680 buff/cache
KiB Swap:  4194300 total,  4088316 free,   105984 used. 11051801+avail Mem 
  PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND                         
  65593 root      20   0  161460   6120   4368 S   1.7  0.0   2:51.34 sshd                            

2、输入命令:htop,显示如下

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

若没有该命令,需要先安装,ubuntu 安装命令为:

sudo apt-get install htop

centos 安装命令为:

yum install htop
  • Linux服务器查看CPU详细信息命令
    SSH登录到你的Linux服务器后,执行命令:cat /proc/cpuinfo 即可查询CPU处理器详细信息,返回结果如下:
Linux服务器查看CPU命令:cat /proc/cpuinfo

5.2 查看 GPU 内存使用情况

1、输入命令: nvidia-smi,显示如下,该命令只能显示一次。

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节

2、实时显示
1)使用 watch 命令, 按照指定间隔刷新,例如下面命令是每隔 1s 刷新一次

watch -n 1 nvidia-smi

2)watch 每个时间周期开启一个进程 (PID),查看后关闭进程,会影响 cuda 操作,建议使用 nvidia-smi -l n 或者 nvidia-smi --loop=n,这个命令执行期间一直是一个进程 PID。例如下面命令是每隔 1s 刷新一次。

nvidia-smi -l 1

5.3 NVIDIA驱动失效简单解决方案:NVIDIA-SMI has failed because it couldn‘t communicate with the NVIDIA driver.

https://blog.csdn.net/sinat_39620217/article/details/131730619

paddle cpu gpu,vscode、pycharm、Anaconda、VS设置,python,# tensorflow安装、调试bug、语法出错等问题,linux,paddlepaddle,pytorch,anaconda,人工智能,TensorFlow,GPU,1024程序员节文章来源地址https://www.toymoban.com/news/detail-762289.html

到了这里,关于Linux和Windows系统下:安装Anaconda、Paddle、tensorflow、pytorch,GPU[cuda、cudnn]、CPU安装教学,以及查看CPU、GPU内存使用情况的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 在Anaconda的虚拟环境上安装cuda、pytorch、opencv以及tensorflow 以及相关报错。

    首先查看自己电脑能支持的cuda版本,查看方法,命令行输入:nvidia-smi 这里我的cuda最高支持11.1的版本,下载的时候找11.1及以下的都可以 然后是在命令行进入提前创建好的虚拟环境(我的虚拟环境名字叫DLGPU,这里要换成自己的) 然后去pytorch的官网里可以找到下载cuda和对应

    2024年02月05日
    浏览(102)
  • Anaconda平台下从0到1安装TensorFlow环境详细教程(Windows10+Python)

    Anaconda下载链接:Free Download | Anaconda 下载完成之后,开始安装,修改安装路径至指定文件夹下,由于安装过程比较简单,此处略过;   在安装之前,我们需要如下准备工作 2.1 确定电脑的独显GPU型号,查看方式如下:搜索--计算机管理--设备管理器--显示适配器;如下图所示,

    2024年02月11日
    浏览(48)
  • Windows安装GPU环境CUDA、深度学习框架Tensorflow和Pytorch

    Windows安装GPU环境CUDA、深度学习框架Tensorflow和Pytorch 首先需要安装GPU环境,包括cuda和cudnn。 深度学习本质上就是训练深度卷积神经网络。 cuda:显卡能够完成并行计算任务,所有的操作是比较底层的、复杂的。 cudnn:在cuda之上有一个专门用于深度神经网络的SDK库来加速完成相

    2023年04月26日
    浏览(60)
  • Windows下安装Torch+cuda(Pytorch、Anaconda、Pycharm、NVIDIA驱动)、Jupyter

    直接下载免费的 官方Anaconda安装,安装过程中建议自行配置安装目录,并确认添加运行环境到Path中,安装后通过cmd命令行输入conda -V 查看是否安装以及版本号。 社区版免费安装,个人学习安装 社区版 即可,社区版基本能满足个人学习需求。 若安装 专业版 需购买正版或自行

    2024年04月28日
    浏览(46)
  • pytorch安装GPU版本 (Cuda12.1)教程: Windows、Mac和Linux系统快速安装指南

    🌷🍁 博主 libin9iOak带您 Go to New World.✨🍁 🦄 个人主页——libin9iOak的博客🎐 🐳 《面试题大全》 文章图文并茂🦕生动形象🦖简单易学!欢迎大家来踩踩~🌺 🌊 《IDEA开发秘籍》学会IDEA常用操作,工作效率翻倍~💐 🪁🍁 希望本文能够给您带来一定的帮助🌸文章粗浅,敬

    2024年02月16日
    浏览(99)
  • 如何在linux服务器上安装Anaconda与pytorch,以及pytorch卸载

    这里我们需要在官网上查找自己需要的版本,地址链接在下面: 这里以我自己安装的版本为例: 有 两种下载 方式: 直接在windows电脑端点击下载,等 下载完传输从windows上传输到linux服务器上就可 。 –简单方便 在linux上使用指令直接下载。 以自己安装的版本为例:地址:h

    2024年02月08日
    浏览(51)
  • Windows下Anaconda+CUDA+CUDNN+Pytorch+VSCODE安装配置及常见问题(可行方案)

    前言 此处写的以自己GT730为例,主要针对老版本显卡的可行安装步骤 这个内容主要是针对自己折腾几天遇到的问题和解决方法的一个记录,用来作为自己的备忘,遇到同样问题可以参考,同时也感谢各位博主之前的分享,为我提供了极大帮助; 另外,若有其它问题也可留言

    2024年02月04日
    浏览(63)
  • 从零开始配置深度学习环境:CUDA+Anaconda+Pytorch+TensorFlow

    本文适用于电脑有GPU(显卡)的同学,没有的话直接安装cpu版是简单的。CUDA是系统调用GPU所必须的,所以教程从安装CUDA开始。 可以配合视频教程食用:https://www.bilibili.com/video/BV12m4y1m7pq/?vd_source=06e4e8652ea90d79dadb7a59ff8acd36 CUDA是加速深度学习计算的工具,诞生于NVIDIA公司,是一

    2023年04月14日
    浏览(66)
  • pytorch安装GPU版本 (Cuda12.1)教程: Windows、Mac和Linux系统下GPU版PyTorch(CUDA 12.1)快速安装

    🌷🍁 博主 libin9iOak带您 Go to New World.✨🍁 🦄 个人主页——libin9iOak的博客🎐 🐳 《面试题大全》 文章图文并茂🦕生动形象🦖简单易学!欢迎大家来踩踩~🌺 🌊 《IDEA开发秘籍》学会IDEA常用操作,工作效率翻倍~💐 🪁🍁 希望本文能够给您带来一定的帮助🌸文章粗浅,敬

    2024年02月12日
    浏览(48)
  • 如何用conda安装PyTorch(windows、GPU)最全安装教程(cudatoolkit、python、PyTorch、Anaconda版本对应问题)(完美解决安装CPU而不是GPU的问题)

            安装PyTorch的开发环境:Anaconda+CUDA+cuDNN+PyCharm Community 1.1 版本选择 第一步就是最关键的版本对应问题(这决定你能否成功安装PyTorch,以及能否成功安装GPU版本的关键问题),可以这么说,版本不能对应好,后面有很大的问题,因此,我们要先确定版本的对应关系。(

    2024年02月07日
    浏览(56)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包