【设置gpu设备】os.environ[‘CUDA_VISIBLE_DEVICES‘] 和 torch.cuda.set_device()

这篇具有很好参考价值的文章主要介绍了【设置gpu设备】os.environ[‘CUDA_VISIBLE_DEVICES‘] 和 torch.cuda.set_device()。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

【设置gpu设备】os.environ[‘CUDA_VISIBLE_DEVICES‘] 和 torch.cuda.set_device()

1. 介绍

官方文档:当使用 PyTorch 进行深度学习训练时,通常需要使用 CUDA 加速计算。在使用 PyTorch 进行训练之前,需要确保已经正确设置了可见的 GPU 设备,并且已经初始化了 CUDA 环境。

2. 方法

2.1 方法1:os.environ[‘CUDA_VISIBLE_DEVICES‘] (推荐)

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'

os.environ[‘CUDA_VISIBLE_DEVICES’] 是一个环境变量,可以通过设置它来限制程序所能看到的可用 GPU 设备列表,从而确保程序只使用指定的 GPU 设备。

  • 设置该环境变量可以使用 os.environ[‘CUDA_VISIBLE_DEVICES’] = ‘0,1’,其中的 ‘0,1’ 表示程序只能看到编号为 0 和 1 的 GPU 设备。

2.2 方法2:torch.cuda.set_device(0)

import torch
torch.cuda.set_device(0)

torch.cuda.set_device() 则是一个 PyTorch 提供的函数,用于将程序的运行环境切换到指定的 GPU 设备上。可以使用 torch.cuda.set_device(0) 将程序的运行环境切换到编号为 0 的 GPU 设备上。

2.3 说明

当你发现你用方式一没有办法使用你指定的GPU,可以用方式二。

  • data.cuda(gpu_id, non_blocking=non_blocking)

如果报错,可以改为data.cuda()。

3. 参考

【1】https://blog.csdn.net/weixin_46141646/article/details/129052145文章来源地址https://www.toymoban.com/news/detail-556224.html

到了这里,关于【设置gpu设备】os.environ[‘CUDA_VISIBLE_DEVICES‘] 和 torch.cuda.set_device()的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 胎儿式保姆级教程:Jetson Xavier NX镜像烧录、开机配置、中文配置、风扇设置、远程桌面、文件传输配置、pycharm安装环境配置,QQ,opencv(cuda编译),torch(GPU).

    一、使用的硬件:nx板子、原装充电器、有线鼠标(USB)、有线键盘(USB)、有线摄像头(USB)、7寸触摸显示屏、20寸大显示屏(显示屏有一个就可以,大屏幕更加方便)、SD卡(128G,用64g也可以)、读卡器、笔记本电脑(Win-11)、WIFI网络环境 二、软件:SDFormatter(v4)、Win32DiskImager(2.0)、VNC-

    2024年02月07日
    浏览(55)
  • Error: Node Sass does not yet support your current environment: OS X Unsupported architecture (arm64

    运行安装 node-sass 的项目报错如下 不支持 Mac M1 的 Arm 架构 解决方式 node-sass 对 node 版本的支持比较慢,通常会落下多个正式的 node 版本,一般来说安装当前版本的前两到三个正式版本即可 解决方式 以 Mac M1 的 brew 安装器的操作为例

    2024年02月15日
    浏览(54)
  • [深度学习]OSError: CUDA_HOME environment variable is not set. Please set it to your CUDA install root.

    Solution to above issue! As cuda installed through anaconda is not the entire package. Please install cuda drivers manually from Nvidia Website [ https://developer.nvidia.com/cuda-downloads ] After installation of drivers, pytorch would be able to access the cuda path. You can test the cuda path using below sample code. Problem resolved!!! CHECK INSTALLATION

    2024年02月16日
    浏览(44)
  • 【CUDA】GPU 算力与 CUDA 版本对应关系

    官方算力表:https://developer.nvidia.com/cuda-gpus#compute 2.1. 信息来源 1 https://docs.nvidia.com/datacenter/tesla/drivers/index.html#cuda-arch-matrix 2.2. 信息来源 2 https://en.wikipedia.org/wiki/CUDA#GPUs_supported

    2024年01月19日
    浏览(39)
  • CUDA编程(一):GPU计算与CUDA编程简介

    NVIDIA公司发布的CUDA是建立在GPU上的一个通用并行计算平台和编程模型,CUDA编程可以利用GPU的并行计算引擎来更加高效地解决比较复杂的计算难题。GPU的并行计算最成功的一个应用就是深度学习领域。 GPU通常不作为一个独立运行的计算平台,而需要与CPU协同工作,它可以看成

    2024年02月16日
    浏览(49)
  • 显卡GPU与CUDA

    GPU就是显卡 Graphics Processing Unit 图像处理单元 显卡主要用于在屏幕上显示图像,用于与视频,图像处理相关的任务 独立显卡比较大,性能更加强,装在主机当中 笔记本也有独立显卡 挖矿,打游戏,深度学习都是使用独立显卡 比较小,嵌入在CPU中 核显日常的工作可以胜任的

    2023年04月27日
    浏览(40)
  • 安装pytorch.cuda时出现Solving environment: failed with initial frozen solve. Retrying with flexible solve

    使用了网上大家说的更新conda,以及更换镜像均无法解决。便尝试使用pip安装指令。  1、将清华镜像源添加到PIP的搜索目录中,打开ANACONDA PROMPT,键入  2、进入PYTORCH官网,选择适合自己电脑系统的版本,在这里查看不同显卡驱动所对应的CUDA版本。  复制安装指令 3、在anacon

    2024年02月15日
    浏览(43)
  • 一文了解GPU并行计算CUDA

    CUDA(Compute Unified Device Architecture),是显卡厂商NVIDIA推出的运算平台。 CUDA™是一种由NVIDIA推出的通用并行计算架构,该架构使GPU能够解决复杂的计算问题。 它包含了CUDA指令集架构(ISA)以及GPU内部的并行计算引擎。 开发人员可以使用C语言来为CUDA™架构编写程序,所编写出

    2024年01月25日
    浏览(45)
  • OpenCVSharp使用GPU和Cuda

    背景:在C#项目实践中,对与图像处理采用opencv优选的方案有两种,EMGU.CV和OpenCVSharp。 以下是两个的比较: Opencv方案 许可证 速度 支持 易用性 OpenCVSharp 许可证是阿帕奇2.0可以随意用 快 CPU 上手简单 EMGU.CV 许可证商用时需要随软件开放源代码 相对慢 CPU、GPU 需要学习 默认Op

    2024年02月10日
    浏览(38)
  • 解决OSError: CUDA_HOME environment variable is not set. Please set it to your CU

    在windows。anaconda虚拟环境下安装pytorch的C++Extension的时候出现 C++Extension有对CUDA的依赖,并且此cuda需要是电脑安装的而不是使用anaconda下载的cudatookit。具体原因请见:cuda和cudatoolkit_独孤的大山猫的博客-CSDN博客_cudatoolkit和cuda有关系吗 在大多数情况下,上述 cudatoolkit 是可以满足

    2024年02月12日
    浏览(49)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包