1. Toy模板网首页
  2. > Toy博客

RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

7月前 作者：苏炘 分类：Toy博客 阅读(105) 违法举报

这篇具有很好参考价值的文章主要介绍了RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

背景：训练DialogueGPT（一个基于GPT2的生成模型）

DialoGPT/data_loader.py at 457835e7d8acd08acf7f6f0e980f36fd327ea37c · microsoft/DialoGPT · GitHub

遇到的问题：

报错：RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`

解决思路：

我把输入用同样形状的随机张量进行了测试，发现用随机的整数张量可以，但是用我的输入就不行，于是想看看两者的区别到底是什么

后来发现，DialogueGPT以及GPT2模型中并没有pad_token，而我手动使用add_special_tokens添加了pad_token，这也就使得词表的长度加1，由原来的0~50256变为0~50257，这也就意味着50257代表的token没有对应的embedding，所以会报错

解决方案：

查看了原代码，发现微软采取的方式是对于上下文则用0填充，对于label就用-1填充（但不知道为什么我用-1填充也会报同样的错误），于是我就都用0填充，问题得到了解决文章来源地址https://www.toymoban.com/news/detail-514724.html

到了这里，关于RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)`的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处： 如若内容造成侵权/违法违规/事实不符，请点击违法举报进行投诉反馈，一经查实，立即删除！

分享到：
领支付宝红包 赞助服务器费用

相关文章

  • RuntimeError:cuDNN error:CUDNN_STATUS_EXECUTION_FAILED

    RuntimeError:cuDNN error:CUDNN_STATUS_EXECUTION_FAILED

    最近在服务器上跑Deeplabv3进行语义分割时，需要使用GPU版的pytorch。 我在Anaconda下配置了适配服务器CUDA的pytorch，但是报错如下，（下图无限接近于我的错误，但是我忘记截图我的报错了，所以用了下面这张网图） 可以看到每次报错都在 conv.py 这个文件，就是在做 CNN 运算时出

    2024年02月03日
    浏览(32)

  • 【Pytorch报错】RuntimeError：cuDNN error：CUDNN_STATUS_INTERNAL_ERROR 高效理解记录及解决！

    明明跑了一段时间？跑过一次完整的？怎么就出现这个报错呢？代码也未改动？而这就是现实！ 观察显卡使用情况，多人共用同一服务器，项目各自运行，会抢占显存，进而报错！ 多个项目运行，占用增加，导致内存用完报错，还是很真实的！ 文件是否设置了CUDA_VISIBLE_DE

    2024年02月15日
    浏览(38)
  • BUG：RuntimeError: CUDA error: invalid device ordinal CUDA kernel errors might be asynchronously repo

    BUG：RuntimeError: CUDA error: invalid device ordinal CUDA kernel errors might be asynchronously repo

    参考链接 当运行以下代码出现报错: 报错信息如下 RuntimeError: CUDA error: invalid device ordinal CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1. 报错完整截图 报错的信息告诉我们，编号\\\"1\\\"是无效的设

    2024年02月12日
    浏览(41)
  • 已解决RuntimeError: CUDA error: invalid device ordinal CUDA kernel errors might be asynchronously repo

    已解决RuntimeError: CUDA error: invalid device ordinal CUDA kernel errors might be asynchronously repo

    参考链接 当运行以下代码出现报错: 报错信息如下 RuntimeError: CUDA error: invalid device ordinal CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1. 报错完整截图 报错的信息告诉我们，编号\\\"1\\\"是无效的设

    2024年02月04日
    浏览(39)

  • 解决：RuntimeError: CUDA error: device-side assert triggered

    @[TOC]解决办法：RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1. RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at

    2024年02月12日
    浏览(29)
  • RuntimeError: CUDA error: an illegal memory access was encountered

    RuntimeError: CUDA error: an illegal memory access was encountered

    后续发现其实是某张卡有问题， 0~3一共4个GPU，只在使用0号GPU的时候会出问题 0号卡似乎是被某个进程锁了，还是怎么样，不用那个卡就没事了 其实不难发现，我报错的位置基本都是从 gpu 往 cpu 转换的时候出现的问题。 因此考虑是不是cpu内存不太够了，所以内存访问发生错

    2024年01月17日
    浏览(43)
  • Bug小能手系列(python)_13: RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might

    Bug小能手系列(python)_13: RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might

    在运行 Python 代码时出现报错： RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect. For debugging consider passing CUDA_LAUNCH_BLOCKING=1. 注意：报错对应的代码部分与实际出现错误的部分是不同的。具体报错

    2024年02月04日
    浏览(30)
  • 【RuntimeError: CUDA error: device-side assert triggered】问题与解决

    【RuntimeError: CUDA error: device-side assert triggered】问题与解决

    当我在调试模型的时候，出现了如下的问题 /opt/conda/conda-bld/pytorch_1656352465323/work/aten/src/ATen/native/cuda/IndexKernel.cu:91: operator(): block: [5,0,0], thread: [63,0,0] Assertion `index = -sizes[i] index sizes[i] “index out of bounds”` failed. 通过提示信息可以知道是个数组越界的问题。但是如图一中第二行

    2024年01月21日
    浏览(31)
  • 出现错误（已解决）RuntimeError: CUDA error: no kernel image is available for execution on the device CUDA ker

    出现错误（已解决）RuntimeError: CUDA error: no kernel image is available for execution on the device CUDA ker

    为什么把警告po出来，是因为警告可以让我们了解一些有用信息。 首先警告里的内容不可忽略，翻译过来就是NVIDIA RTX GeForce 3060Ti（我使用的服务器）支持的CUDA的算力为8.6，与当前的pytorch的版本不匹配。说白了就是CUDA和pytorch版本不一致。 当前的pytorch版本支持的CUDA的算力为

    2024年02月10日
    浏览(37)

  • RuntimeError: CUDA error: no kernel image is available for execution on the device

    导致的原因一般都是显卡算力和cuda或者torch版本不匹配 比如在conda中安装的pytorch=1.5.0 cuda=10.2 错误：RuntimeError: CUDA error: no kernel image is available for execution on the device 参考pytorch 报错 RuntimeError: CUDA error: no kernel image is available for execution on the device_可豌豆的博客-CSDN博客 则应该安装

    2024年02月15日
    浏览(47)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包，优惠每天领

二维码1

领取红包

二维码2

领红包