使用配置文件创建conda环境

这篇具有很好参考价值的文章主要介绍了使用配置文件创建conda环境。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

参考链接:conda installpip install 的区别 https://www.cnblogs.com/yibeimingyue/p/14660246.html

注意:使用官方给出的部署文件进行环境的创建时,特别要注意 cuda 版本是否和服务器的版本(显卡驱动版本)一致(这里的一致是指:显卡驱动以及 CUDA 版本不能低于需要安装的 CUDA 版本)!否则即使安装了 PyTorch 或者时 Tensorflow,也会因为和服务器的硬件设备驱动版本不一致导致运行不成功!

写在前面

使用以下部署工具部署环境时,最好不要使用官方提供的文件,而是自己新创建一个文件,然后把必须的包写入,然后再进行部署!原因如下:

  • 作者提供的一般都是使用命令直接导出的,而导出的文件我们打开看,会发现除了各种版本信息 =... 外,后面还跟着许多奇奇怪怪的字符,这个虽然也是指定相应的版本,但是大概率是和自己的机器相匹配的信息,如果直接安装,后面出现各种奇怪的错误,你都不会发现是版本问题导致的!
  • 我们要做的,就是手动导入,然后自己指定相关版本信息,这样安装的包就是和自己的机器匹配的,不会安装错误!

一、pip 自动部署工具 requirements.txt

  • 官方说明文档:https://pip.pypa.io/en/stable/ 直接搜索 requirements.txt 就可以查找到。
  • 各个参数的说明:https://pip.pypa.io/en/stable/cli/pip_install/#install-index-url

生成当前环境的依赖:

pip freeze > requirements.txt

其中 requirements.txt 文件内容如下。

# 不写版本号默认安装最新的版本
matplotlib==xxx
Pillow==xxx

使用 requirements.yml 完成环境部署:

conda/source activate 虚拟环境
pip install -r requirements.txt

二、conda 自动部署工具 environment.yml

请注意,Conda 建议environment.yml 手工创建(即手动填写那些必须的依赖包以及相关配置),如果要跨平台(Windows / Linux /Mac)共享环境,这尤其重要。在这种情况下,您可以省略该 prefix 行。

  • 官方说明文档:https://docs.conda.io/projects/conda/en/latest/index.html
  • 参考链接1:http://www.codebaoku.com/question/question-cd-176717.html

使用以下命令将当前激活的虚拟环境保存:

conda env export > environment.yml

在当前目录下自动生成相关安装依赖关系,具体示例如下。

name: xxx
channels:
  # 指定下载通道,可以指定.condarc中的下载通道,也可以指定官方下载通道,从上到下进行优先选择
  - defaults  # 使用默认的下载源通道
  - custom  # 这个在清华源的官方配置文件中也进行指定的
  - pytorch  # 不要认为是官方的下载源,如果是直接复制的清华源配置,那么这里已经重定向到清华源了
  - anaconda
  - conda-forge  # cudatoolkit 就是从这个源里面下载
  # - nodefaults  # 使得默认的下载源失效!看情况使用
dependencies:
  # 以下python和pip必须指定
  - python=3.x  # 这里还能指定版本:python>=3.5
  - pip  # 这个必须有,因为后面使用到了 pip,不然都没有安装怎么执行后面的 pip 命令
  - xxx  # 这里可以指定使用 conda install 安装的包,比如 pytorch, torchvision, torchaudio 三套件(注意:不需要指定 cudnn,PyTorch-GPU 默认会安装[torch cudatoolkit cudnn] 这三者之间的匹配关系会自动帮我们选好,默认的是最新版)
  - pip:
      - xxx  # 这里也可以指定版本:numpy==1.16.0
      - [-f] https://..  # 指定的下载通道

例子:

name: GlobalTrack
channels:
  - defaults
  - pytorch
  - conda-forge
dependencies:
  # 注意 1: dependencies 里面版本指定与 pip 里面版本指定的区别
  # 这里使用的是 =, 或者 > <,而 pip 里面使用的是 == >= <=
  - python=3.8
  # 使用 conda install 安装 PyTorch,注意原来指定的通道这里放在 `channels` 里面了
  - pytorch=1.8.1
  - torchvision=0.9.1
  - torchaudio=0.8.1
  - cudatoolkit=11.1
  - pip
  - pip:
    - black
    - imageio
    - mmcv==0.4.3
    - numpy
    - opencv-python
    - opencv-python-headless
    - Pillow
    - scikit-image
    - scikit-learn
    - scipy
    - Shapely
    # 以下是使用 pip install 安装的配置
    # - torch==1.8.1+cu111
    # - torchaudio==0.8.1
    # - torchvision==0.9.1+cu111
    # - -f https://download.pytorch.org/whl/torch_stable.html
prefix: ~/anaconda3/envs/GlobalTrack  # 不会发生作用,只是给其他人说明安装的位置

指定安装版本时,注意 pip 使用双等号,dependencies 中为等号!如果不指定,默认安装最新的版本。

使用 envrionment.yml 完成环境部署:

conda env create -f environment.yml

参考链接:https://www.jianshu.com/p/7cc505f8e2bd

总结

使用 conda 部署时可以一步到位,简单,但是有以下两个明显的缺点:

  1. 整个安装过程的提示信息是很少的,而且安装的出错后的提示信息不是很全面。比如说如果是在 pip 那部分某一个包安装失败,导致整个部署过程直接结束,最后提示的信息竟然给我们定位到了 conda 自动创建的临时文件 conda.emvs.requirenmens.txt(好像是这个名字,其实在 pip 这部分,还是调用的 pip install -r requirements.txt 来安装,所以为什么会有这个临时文件),安装终止后,该临时文件也没有了!所以提示信息不是很友好。当然,如果要定位的话,还是可以的。一般会提示在多少行出错,直接从 environment.yml 中的 pip 开始,往下对应到相同的行数就可以。
  2. 如上所述,如果其中的某一个包安装失败,后面的所有包都不会被下载,直接终止。然而,该环境已经创建,如果直接使用上述命令进行部署,会提示 CondaValueError: prefix already exists:~/anaconda3/envs/GlobalTrack,这时如果需要重新安装,必须先卸载!
conda remove -n GlobalTrack --all
# 或者直接删除安装虚拟环境的文件夹
rm -rf ~/anaconda3/envs/GlobalTrack

这是相当麻烦的,令人不快!conda 好像并没有提供直接强行覆盖的功能,因此只能这样操作!

附:手动创建环境时顺便安装深度学习包

这里需要纠正一点的是,如果我们不需要做 CUDA 编程(相信大部分小伙伴都用不到),那么我们是不需要进行那么复杂的 CUDATOOLKIT cuDNN 的安装配置的,只需要把 NVIDIA 驱动安装好就可以了!然后在安装 PyTorch Tensorflow-GPU 的时候,只要指定的是 GPU 版,以及对应的 CUDA/cudatoolkit 版本(主要是和自己机器的 NVIDIA-DRIVER CUDA 版本匹配——自己机器的不能低于 PyTorch/Tensorflow 要求的最低版本)就会自动下载 这三套件了 pytorch/tensorflow cudatoolkit cudnn,小伙伴们可以自己仔细看看控制台的安装信息!

友情提示:为什么需要时刻关注控制台的安装信息呢?因为有的时候明明我们指定的是 GPU 版本,如果我们不仔细看,那么可能就会默认变成了 CPU 版本,那么后面调用相应的包时肯定是找不到了的啦!这里为什么会改变大概率是版本不匹配(CUDA & PyTorch/Tensorflow)引起的,可以更换下安装的版本试试!文章来源地址https://www.toymoban.com/news/detail-446609.html

到了这里,关于使用配置文件创建conda环境的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 服务器安装 anaconda & conda: command not found [解决方案] & bashrc文件中环境变量配置错误,导致linux命令无法正常使用的解决方案

    由于连接的服务器,无法直接在anaconda官网上下载安装文件,所以使用如下方法: 之后一直按 enter ,直到出现提示要输入 yes or no ,输入 yes 显示以下信息即为安装成功 在终端输入conda info --envs查看anaconda是否安装成功,发现报错:conda: command not found 原因在于: ~/.bashrc文件没

    2024年02月06日
    浏览(48)
  • pycharm使用conda创建的虚拟环境时找不到python.exe

    问题:在创建的虚拟环境中没有找到python.exe文件  解决方案:可能是condaba版本不一样,新版本选不到.exe文件 在anaconda软件的安装目录下选择condabin——conda.bat 然后加载环境,就可以选择创建的虚拟环境了  

    2024年02月04日
    浏览(29)
  • C++ 科学计算矩阵数学库: Intel MKL+ Dlib +Armadillo 编程环境配置安装以及使用matlab将M文件编译成链接库

    配置时间 2022年11月13日  电脑主机:以下编程环境 只适用于windows 10 操作系统   在线安装Visual Studio 2019编译器环境【MSVC 14.29版本(对应Visual Studio1929 (Version 16.10 + 16.11)】+对应windows SDK10 kit 【版本10.0.19041.0】,注意各个工具的版本。      在线安装VS结束,要手动配置系统环

    2024年02月11日
    浏览(25)
  • 使用pycharm+conda配置虚拟环境

    最近开启了一个新的课题,其中需要应用到一个新的代码环境,所以写下这篇文章记录配置环境的过程来巩固技能,以及分享给大家,本文主要内容: (1)使用pycharm创建新的项目环境并使用conda进行配置 (2)使用pycharm引用已有的conda虚拟环境 首先,打开点击pycharm左上方的

    2024年02月07日
    浏览(49)
  • anaconda在新的conda环境创建与打开jupyter notebook,在新的文件目录下打开jupyter notebook(有视频教学)

    目录 视频链接如下: anaconda 1.创建新的conda环境; 2.在新的conda环境打开jupyter notebook; 3.在新的文件目录下打开jupyter notebook; 详细步骤: 本文也是根据该视频的教学学习做的笔记,希望帮助到更多人。 https://www.bilibili.com/video/BV1CU4y1v7PV/?spm_id_from=333.788.top_right_bar_window_histor

    2024年02月01日
    浏览(56)
  • 使用conda创建虚拟环境时出现错误(CondaHTTPError: HTTP 000 CONNECTION FAILED for url)

    一、 原因 镜像网址配置有问题! http是超文本传输协议,信息是明文传输,https则是具有安全性的【ssl/tls】加密传输协议。这里我们直接用http即可,不用加s。 二、解决步骤 1. win+R打开运行窗口,输入如图命令 2. 打开“.condarc“文件,右键 打开方式选择 记事本 即可 3. 修改为

    2024年03月16日
    浏览(39)
  • 使用mamba替换conda和anaconda配置环境安装软件

    使用mamba替换miniconda和anaconda,原因是速度更快,无论是创建新环境还是激活环境 conda、mamba、anaconda都是蟒蛇的意思… linux和mac使用命令行下载mambaforge windows版本和linux、mac版本可以从夸克网盘下载 链接:https://pan.quark.cn/s/6fd066275bd1 提取码:iG2E windows直接鼠标双击打开Mambafo

    2024年01月19日
    浏览(79)
  • 改变conda创建虚拟环境时候的默认路径和拷贝、删除、创建Conda虚拟环境

    conda环境默认安装在用户目录C:Usersusername.condaenvs下,如果选择默认路径,那么之后创建虚拟环境,也是安装在用户目录下。不想占用C盘空间,可以修改conda虚拟环境路径。 首先,找到用户目录下的.condarc文件(C:Usersusername)。 打开.condarc文件之后,添加或修改.condarc 中的

    2024年02月12日
    浏览(33)
  • Conda虚拟环境创建

    我们在做开发时可能会同时开发多个项目,这些项目可能会依赖于不同的python环境,比如有的用到3.6有的用到3.7,这时我们创建不同版本的python,放到虚拟环境中给不同的项目分别提供其所需要的版本,这样可以将各项目所用的环境隔离开不会相互影响。就算多个项目使用同

    2023年04月09日
    浏览(29)
  • conda创建虚拟环境

    创建虚拟环境是在计算机上设置一个独立的空间,用于安装和运行特定版本的软件和依赖项, 以避免与系统其他部分的冲突。 创建虚拟环境 : 这将创建一个名为 myenv 的虚拟环境,并安装Python 3.8版本。 激活虚拟环境 : 这将激活名为 myenv 的虚拟环境。 停用虚拟环境 : 列出

    2024年02月12日
    浏览(30)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包