os.environ[‘CUDA_VISIBLE_DEVICES‘] 和torch.cuda.set_device()

这篇具有很好参考价值的文章主要介绍了os.environ[‘CUDA_VISIBLE_DEVICES‘] 和torch.cuda.set_device()。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

#方式一 
#import os
# os.environ['CUDA_VISIBLE_DEVICES'] = '5'

#方式二
#import torch
#torch.cuda.set_device(5)

官方文档:当使用 PyTorch 进行深度学习训练时,通常需要使用 CUDA 加速计算。在使用 PyTorch 进行训练之前,需要确保已经正确设置了可见的 GPU 设备,并且已经初始化了 CUDA 环境。

os.environ['CUDA_VISIBLE_DEVICES'] 是一个环境变量,可以通过设置它来限制程序所能看到的可用 GPU 设备列表,从而确保程序只使用指定的 GPU 设备。设置该环境变量可以使用 os.environ['CUDA_VISIBLE_DEVICES'] = '0,1',其中的 '0,1' 表示程序只能看到编号为 0 和 1 的 GPU 设备。

torch.cuda.set_device() 则是一个 PyTorch 提供的函数,用于将程序的运行环境切换到指定的 GPU 设备上。可以使用 torch.cuda.set_device(0) 将程序的运行环境切换到编号为 0 的 GPU 设备上。

当你发现你用方式一没有办法使用你指定的GPU,可以用方式二。

在使用:

data.cuda(gpu_id, non_blocking=non_blocking)

如果报错,可以改为data.cuda()文章来源地址https://www.toymoban.com/news/detail-403705.html

到了这里,关于os.environ[‘CUDA_VISIBLE_DEVICES‘] 和torch.cuda.set_device()的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 关于torch.load()更改了cuda位置还是cuda内存不够的问题

    问题背景:在一次任务中,由于需要使用cuda进行代码运行,但是分明修改了cuda到一个空闲的卡位置,但是依然抱错cuda out of memory的问题 在任务中,最开始原始代码是采用以下方式尽心模型load的(指定了cuda to device的位置是空闲的卡2): 但是依然抱错cuda out of memory,分析如

    2024年02月15日
    浏览(47)
  • Pycharm报错torch.cuda.OutOfMemoryError: CUDA out of memory.

    报错 做深度学习相关的实验,可以看到我的显卡内存很小(哭了,不过我有时候是在别的电脑上做的,那个电脑比这个好用),网上搜到的说的 max_split_size_mb:128 这个方法我贴到我代码上之后没有效果。 因为我在这个电脑上做的是主实验后面的一些对比实验,也就是代码中很

    2024年02月05日
    浏览(46)
  • 部署stable diffusion 错误torch.cuda.OutOfMemoryError: CUDA out of memory.

    以来安装完毕,开始执行web_ui.bat 错误截图:  猜测原因:GPU用错了 webUI.py加一行代码 在此启动web_ui.bat,成功打开网页页面

    2024年02月11日
    浏览(51)
  • Windows配置深度学习环境——torch+CUDA

    这里基于读者已经有使用Python的相关经验,就不介绍Python的安装过程。 win10+mx350+Python3.7.4+CUDA11.4.0+cudnn11.4 torch 1.11.0+cu113 torchaudio 0.11.0 torchvision 0.12.0+cu113 一般来说在命令行界面输入python就可以了解python版本。 也可以使用如下代码查询python版本。 以下是torch与Python版本的对应关

    2024年01月25日
    浏览(58)
  • PYTORCH 依赖 cuda 11.8 , cuda 12.1 cpu 里 torch torchvision torchaudio对应关系

    Pytorch是Facebook人工智能研究院基于Torch开发的一个开源的Python机器学习库,它提供了两项强大的功能: 1、强大的GPU加速的张量计算(NumPy)。 2、自动求导系统的深度神经网络。 cuda 11.8 cuda 12.1 cpu  Previous PyTorch Versions | PyTorch

    2024年02月01日
    浏览(57)
  • python安装cuda出现错误提示:AssertionError: Torch not compiled with CUDA enabled

    在pycharm中模型训练时,出现错误提示:AssertionError: Torch not compiled with CUDA enabled 原因:CUDA和Torch版本不兼容 使用命令 nvcc -V 或者 nvcc --version 出现如下所示结果,则表明cuda安装成功: 否则就说明没有cuda,要重新下载安装cuda,去官网: https://developer.nvidia.com/cuda-downloads 检查电

    2024年02月02日
    浏览(43)
  • 【一文解决】已安装CUDA与Pytorch但torch.cuda.is_available()为False

    已经安装CUDA与Pytorch。但执行如下Python脚本,输出结果为False: 出现这个问题的原因很多,很多文章的分析并不全面。博主遇到这个问题时,也是不断整合网络上零零散散的信息,浪费了不少功夫,因此写下了本文。如果你也遇到了这个问题, 本文致力于帮助你通过这一篇文

    2024年02月09日
    浏览(36)
  • 【混合精度训练】 torch.cuda.amp.autocast()

    torch.cuda.amp.autocast() 是PyTorch中一种混合精度的技术,可在保持数值精度的情况下提高训练速度和减少显存占用。 混合精度是指将不同精度的数值计算混合使用来加速训练和减少显存占用。通常,深度学习中使用的精度为32位(单精度)浮点数,而使用16位(半精度)浮点数可

    2024年02月16日
    浏览(42)
  • [深度学习]OSError: CUDA_HOME environment variable is not set. Please set it to your CUDA install root.

    Solution to above issue! As cuda installed through anaconda is not the entire package. Please install cuda drivers manually from Nvidia Website [ https://developer.nvidia.com/cuda-downloads ] After installation of drivers, pytorch would be able to access the cuda path. You can test the cuda path using below sample code. Problem resolved!!! CHECK INSTALLATION

    2024年02月16日
    浏览(44)
  • Ubuntu下跑Aplaca报错:torch.cuda.0utofMemoryError: CUDA out of memory.解决办法(查看CUDA占用情况&清除GPU缓存)

    错误提示: torch.cuda.0utofMemoryError: CUDA out of memory.Tried to allocate 2.00 MiB (PU 0; 23.69 GiB total capacity; 237 BiB already allocated; 18.38 MiB fre; 2.50 GiB reserved in total by PyTorch) If reserved memory is allocated memory try setting max_split_size_mb to avoid fragmentation.See documentation for Memory Management and PYTORCH_CUDA_ALLOC_

    2024年02月11日
    浏览(50)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包