大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB-Toy模板网

这篇具有很好参考价值的文章主要介绍了大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

前些天发现了一个出色的人工智能学习网站。它的内容不仅深入浅出、易于理解，还充满了趣味性和幽默感，我觉得这对于喜欢探索新知识的朋友们来说会是一个不错的资源。
如果你对人工智能感兴趣，不妨点击查看，看看能否为你的学习之旅增添一些乐趣和启发。

项目场景

跑bert-seq2seq的代码时，出现报错

RuntimeError: CUDA out of memory. Tried to allocate 870.00 MiB (GPU 2; 23.70 GiB total capacity; 19.18 GiB already allocated; 323.81 MiB free; 21.70 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.
See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF

运行时错误:CUDA内存不足。试图分配870.00 MiB (GPU 2;23.70 GiB总容量;19.18 GiB已经分配;323.81 MiB空闲;如果分配的内存是>，>分配的内存尝试设置max_split_size_mb以避免碎片。请参阅文档了解内存管理和PYTORCH_CUDA_ALLOC_CONF

大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB

参考：
https://blog.csdn.net/qq_37555071/article/details/108346569
https://blog.csdn.net/xiyou__/article/details/118529350

原因分析&解决方案

① GPU空间没有释放

可能为PyTorch占用的GPU空间没有释放，导致下次运行时，出现CUDA out of memory。
命令行输入 nvidia-smi，显示GPU的使用情况，以及占用GPU的应用程序

nvidia-smi

大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
此时发现仅GPU：0有4778MIB的占用
有两种解决方案

解决一换GPU

将代码中的默认0，换成指定2

# device = "cuda" if torch.cuda.is_available() else 'cpu'
device = torch.device('cuda:2')

解决二杀掉进程

windows系统输入taskkill -PID 进程号 -F 结束占用的进程，比如

taskkill -PID 7072 -F

linux系统输入kill 进程号 结束占用的进程，比如

kill 7072

大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB

然后再次输入 nvidia-smi 查看GPU使用情况

② 更换GPU后仍未解决

法一：调小batch_size

设到4基本上能解决问题，如果还不行，该方法pass。

法二：定时清内存

在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）：

import torch, gc

gc.collect()
torch.cuda.empty_cache()

法三（常用方法）：设置测试&验证不计算参数梯度

在测试阶段和验证阶段前插入代码 with torch.no_grad()（目的是该段程序不计算参数梯度），如下：

def test(model,dataloader):
    model.eval()
    with torch.no_grad(): ###插在此处
        for batch in tqdm(dataloader):
			……

法四（使用的别人的代码时）：将"pin_memory": True改为False

如果怎么修改，都会出现题中bug，甚至跑了几轮之后突然出现 cuda out of
memory，查看代码中是否存在一下代码（通常出现在main.py 或者数据加载的py文件中：

kwargs = {'num_workers': 6, 'pin_memory': True} if torch.cuda.is_available() else {}

将"pin_memory": True改为False，具体原因原博：

pin_memory就是锁页内存，创建DataLoader时，设置pin_memory=True，则意味着生成的Tensor数据最开始是属于内存中的锁页内存，这样将内存的Tensor转义到GPU的显存就会更快一些。
主机中的内存，有两种存在方式，一是锁页，二是不锁页，锁页内存存放的内容在任何情况下都不会与主机的虚拟内存进行交换（注：虚拟内存就是硬盘），而不锁页内存在主机内存不足时，数据会存放在虚拟内存中。显卡中的显存全部是锁页内存,当计算机的内存充足的时候，可以设置pin_memory=True。当系统卡住，或者交换内存使用过多的时候，设置pin_memory=False。因为pin_memory与电脑硬件性能有关，pytorch开发者不能确保每一个炼丹玩家都有高端设备，因此pin_memory默认为False。文章来源地址https://www.toymoban.com/news/detail-450055.html

到了这里，关于大概率（5重方法）解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！