【解决】pytorch单机多卡问题：ERROR: torch.distributed.elastic.multiprocessing.api:failed

9月前作者：傲笑风分类：Toy博客阅读(36) 违法举报

这篇具有很好参考价值的文章主要介绍了【解决】pytorch单机多卡问题：ERROR: torch.distributed.elastic.multiprocessing.api:failed。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

最近在使用单机多卡进行分布式（DDP）训练时遇到一个错误：ERROR: torch.distributed.elastic.multiprocessing.api:failed。
而实际报错的内容是：ValueError: sampler option is mutually exclusive with shuffle.
报错的详细内容如下截图所士：
【解决】pytorch单机多卡问题：ERROR: torch.distributed.elastic.multiprocessing.api:failed,pytorch,pytorch,深度学习,python
出现这种错误的原因是，在分布式训练时使用了sampler，并且dataloader时参数shuffle设置成True。由于sampler在分配数据给gpu时已经自动打乱了数据，所以dataloader无需重复打乱数据，二者是相冲的。
因此，使用分布式训练时，会使用sampler，在dataloader时参数shuffle默认False即可。文章来源地址https://www.toymoban.com/news/detail-541860.html

到了这里，关于【解决】pytorch单机多卡问题：ERROR: torch.distributed.elastic.multiprocessing.api:failed的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：

领支付宝红包赞助服务器费用

解决ValueError: Error initializing torch.distributed using env:// rendezvous:: environment variable 报错

在命令行运行程序时候可成功跑通，但在程序调试过程中出现如下错误：源代码：修改后： import torch.distributed as dist import os os.environ[\\\'MASTER_ADDR\\\'] = \\\'localhost\\\' os.environ[\\\'MASTER_PORT\\\'] = \\\'5678\\\' dist.init_process_group(backend=\\\'nccl\\\', init_method=\\\'env://\\\', rank = 0, world_size = 1)

2024年02月11日
浏览(278)
【NLP相关】PyTorch多GPU并行训练（DataParallel和DistributedDataParallel介绍、单机多卡和多机多卡案例展示）

❤️觉得内容不错的话，欢迎点赞收藏加关注😊😊😊，后续会继续输入更多优质内容❤️ 👉有问题欢迎大家加关注私戳或者评论（包括但不限于NLP算法相关，linux学习相关，读研读博相关......）👈 当下深度学习应用越来越广泛，训练规模也越来越大，需要更快速的训练速

2024年02月04日
浏览(41)
pytorch 进行分布式调试debug torch.distributed.launch 三种方式

一. pytorch 分布式调试debug torch.distributed.launch 三种方式 1. 方式1：ipdb调试（建议）参考之前的博客：python调试器 ipdb 注意：pytorch 分布式调试只能使用侵入式调试，也即是在你需要打断点的地方（或者在主程序的第一行）添加下面的代码：当进入pdb调试后，跟原先使用pdb调试

2024年02月07日
浏览(33)
训练DiT报错ERROR:torch.distributed.elastic.multiprocessing.api:failed (exitcode: -9) local_rank: 0

运行Dit时，torchrun --nnodes=1 --nproc_per_node=8 train.py --model DiT-XL/2 --data-path /home/pansiyuan/jupyter/qianyu/data 遇到报错 1 完整报错 2 报错关键位置 ERROR:torch.distributed.elastic.multiprocessing. api:failed (exitcode: -9) local_rank: 0 (pid: 83746) of binary: /opt/conda/bin/python Traceback (most recent call last): torch.dis

2024年02月04日
浏览(47)
Pycharm加载conda创建pytorch虚拟环境 & import torch报错问题解决

PyTorch 最新安装教程（2021-07-27）请参考： PyTorch 最新安装教程（2021-07-27）如下图，打开 Pycharm 的 Settings ，修改 Project 的编译器。或者在创建新的 Project 时，选择 Anaconda 创建的 pytorch -- python

2023年04月11日
浏览(80)
深度学习：Pytorch安装的torch与torchvision的cuda版本冲突问题与解决历程记录

今天不小心将conda环境中的一个pytorch环境中的torch包给搞混了，将其更新了一下，发生了一些问题：当时运行了一下这个代码： pip install torchvision --upgrade 导致了环境中包的混乱：只能说欲哭无泪，当时这个 pytorch环境中我是安装的CUDA11.8的版本应该，后来安装了cpu版本的将

2024年02月20日
浏览(48)
解决PyTorch无法调用GPU，torch.cuda.is_available()显示False的问题

在Aliyun ECS上部署Demucs项目时，发现torch始终无法调用GPU。 python -c \\\"import torch;print(torch.cuda.is_available())\\\" 一直显示是False。需要修改Demucs项目默认的 environment-cuda.yml ，覆盖指定这几个参数完整文件如下：如果之前已经用默认的yml文件创建了环境，需先把原来的环境删掉。修改

2024年02月04日
浏览(55)
【PyTorch】设置CUDA_VISIBLE_DEVICES无效的问题以及多卡使用以及CUDA out of memory问题

方法1：理想情况下，该环境变量应设置在程序的顶部。如果在设置 torch.backends.cudnn.benchmark 之后调用 CUDA_VISIBLE_DEVICES 变量，则更改 CUDA_VISIBLE_DEVICES 变量将不起作用。方法2： https://discuss.pytorch.org/t/how-to-change-the-default-device-of-gpu-device-ids-0/1041/29 问题：单机多卡使用时，指定

2024年04月14日
浏览(53)
torch.distributed.elastic.multiprocessing.api: [WARNING] Sending process 141——YOLOv8双卡训练报错的解决方法

Ultralytics开源的YOLOv8训练模型的时候——使用如下命令，双GPU部署训练抛出异常而使用SingleGPU则不会抛出异常这是由于上一次双卡训练直接在pycharm的terminal里面直接Ctrl+C按下去，然后终止了训练，这样可能导致了进程没有完全杀死，没有释放该进程。需要重启电脑。还有一

2024年02月04日
浏览(39)
Pytorch——报错解决：多卡训练超时错误Timed out initializing process group in store based barrier on rank

找到 .conda/envs/bevdet/lib/python3.6/site-packages/torch/distributed/constants.py ，修改默认时间从 30mins 到 120mins ：

2024年02月12日
浏览(48)