pytorch无法把共享内存写入文件

这篇具有很好参考价值的文章主要介绍了pytorch无法把共享内存写入文件。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

环境:

在容器中跑pytorch模型的训练 

问题表现:

ERROR: Unexpected bus error encountered in worker. This might be caused by insufficient shared memory (shm).
Traceback (most recent call last):
  File "/root/anaconda3/lib/python3.8/multiprocessing/queues.py", line 239, in _feed
    obj = _ForkingPickler.dumps(obj)
  File "/root/anaconda3/lib/python3.8/multiprocessing/reduction.py", line 51, in dumps
    cls(buf, protocol).dump(obj)
  File "/root/anaconda3/lib/python3.8/site-packages/torch/multiprocessing/reductions.py", line 358, in reduce_storage
    fd, size = storage._share_fd_cpu_()
RuntimeError: unable to write to file </torch_27822_2114653298_869>: No space left on device (28)

问题原因:

torch.utils.data.dataloader使用了共享内存。容器根目录没有空间,导致共享内存写到文件的时候报错。

解决方案,dataloader不使用共享内存:

from torch.utils.data import dataloader
from torch.multiprocessing import reductions
from multiprocessing.reduction import ForkingPickler
 
default_collate_func = dataloader.default_collate
 
 
def default_collate_override(batch):
  dataloader._use_shared_memory = False
  return default_collate_func(batch)
 
setattr(dataloader, 'default_collate', default_collate_override)
 
for t in torch._storage_classes:
  if sys.version_info[0] == 2:
    if t in ForkingPickler.dispatch:
        del ForkingPickler.dispatch[t]
  else:
    if t in ForkingPickler._extra_reducers:
        del ForkingPickler._extra_reducers[t]

 参考:

https://blog.csdn.net/u012796629/article/details/105936386文章来源地址https://www.toymoban.com/news/detail-822780.html

到了这里,关于pytorch无法把共享内存写入文件的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 网上邻居共享文件无法访问的解决方法

    单位和公司组建局域网的目的就是为了方便大家工作和学习,但是有的时候办公室中经常会需要通过网上邻居访问同事电脑上共享的文件,省的用U盘考来考去;可是却时常碰到网上邻居无法访问的情况。下面几种方法可以逐一尝试。 网上邻居→本地连接→属性里,检查是否安

    2024年02月06日
    浏览(41)
  • Mac无法访问Windows共享文件解决办法

    先按照网上教程,在Windows下允许远程,然后设置文件夹共享出来,再在Mac上通过smb登录,输入用户名和密码窗口总是抖动,一直连接不上,此时用另一台同一局域网的Windows机器都可以远程访问到,Mac就是访问不到。如下图。 1,在运行里面输入\\\"secpol.msc\\\"来启动本地安全设置,

    2024年02月11日
    浏览(52)
  • Linux的dev/vda1文件满了导致MySQL无法写入

    Java基础合集 数据结构与算法合集 设计模式合集 多线程合集 分布式合集 ES合集 其他系列文章导航 文章目录 前言 一、dev/vda1文件介绍 二、排查过程 三、总结 今天查看两个月前上线的小项目,发现运行非常慢,而且增删改查失效了(吓我一大跳),急急忙忙的就开始了我的

    2024年02月01日
    浏览(60)
  • 无法访问文件共享主机,此共享需要过时的SMB1协议的解决步骤

    在日常工作中,同事访问共享文件服务器时所遇到的问题,在此记录一下解决步骤。 因为文件共享不安全,所以你不能连接到文件共享。此共享需要过时的SMB1协议,而此协议是不安全的,可能会使你的系统遭受攻击。 你的系统需要SMB2或更高版本。关于如何解决此问题的信息

    2024年02月07日
    浏览(40)
  • 【Windows】Windows 无法访问共享文件夹的解决办法

    今天在配置 iPhone 连电脑进行文件共享的时候遇到了“连接传输文件显示连接服务器用户或密码无效”的问题,通过查询更改了控制面板文件共享设置,发现能进去看见文件夹但是访问不了文件。 然后我又用我的同一个局域网的电脑尝试连接,发现还是一样的问题,能看到文

    2024年02月11日
    浏览(63)
  • Ubuntu 22.04.2 samba共享目录后,Windows无法访问共享文件夹解决方法记录

    在终端敲入指令:cat /etc/issue 依次执行如下命令: sudo apt-get upgrade sudo apt-get update sudo apt-get dist-upgrade sudo apt-get install samba samba-common 检查是否成功安装samba服务:samba -V (如果出现下面版本号说明已经安装了samba服务器) mkdir /home/share //如果配置的共享目录不存在则创建 sudo

    2023年04月24日
    浏览(63)
  • RuntimeError: Unable to find a valid cuDNN algorithm to run convolution

    使用yolov5l模型训练时出现报错,但是昨天使用yolov5s模型时是可以正常训练的。 发生报错的原因是gpu内存占用过高,terminal输入nvidia-smi查看gpu的使用情况。   我们需要把bach_size调小,一般建议是8的倍数,内存不够用时尽量调低,此处我设置成了16。 结果运行正常。 使用yol

    2024年02月11日
    浏览(49)
  • Win11共享文件,能发现主机但无法访问,提示找不到网络路径

    加密长度选择如下: 参考以下链接: Redirecting https://answers.microsoft.com/zh-hans/windows/forum/all/win11%E8%AE%BE%E7%BD%AE%E6%96%87%E4%BB%B6%E5%A4%B9/554343a9-d963-449a-aa59-ce1e6f7c8982?tab=AllReplies#tabs

    2024年02月10日
    浏览(40)
  • 上传oss文件是出现 Unable to execute HTTP request: 返回结果无效,无法解析 错误解决办法

    项目中上传图片的时候有了一下错误: 那么这个错误我百度了一下这个错误 那个如果是关于OSS的错误,找不到的话可以查看一下阿里云OSS的官方文档查找一下 阿里云OSS文档      查看这些解决方案。我看这个发现我的都没问题,然后最后发现这个项目是我直接拉下来直接用

    2024年02月12日
    浏览(48)
  • 更改c盘计算机权限,Win10系统中C盘文件无法更改写入删除提示没有权限如何解决

    C盘是电脑中重要的系统盘,我们有时候需要在C盘中进行创建或者修改删除文件等,可是在win10系统中,很多用户却遇到磁盘文件无法更改写入删除等操作,并提示没有权限,碰到这样的要如何解决呢?接下来随小编来看看Win10系统中C盘文件无法更改写入删除提示没有权限的解

    2024年02月11日
    浏览(44)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包