RuntimeError: result type Float can‘t be cast to the desired output type long int

这篇具有很好参考价值的文章主要介绍了RuntimeError: result type Float can‘t be cast to the desired output type long int。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

在使用yolov5训练自定义数据集的运行过程中报错:
**RuntimeError: result type Float can‘t be cast to the desired output type long int
**
runtimeerror: result type float can't be cast to the desired output type lon,yolov5训练自定义数据集,深度学习,python,pytorch

1. 产生原因:

并不是自己构建的数据集有问题或者是下载更改后的代码有问题。
问题原因:
从Github上clone 的yolov5-master版本的代码是可以直接运行的,因为官网上clone 的代码是最新版本调试好的代码.
附yolov5链接网址:yolov5 Github链接
但是如果是用yolov5的历史版本如:yolov5-1.0或yolov5-5.0等版本进行训练,由于yolov5-master版本和其他历史版本下的\utils\loss.py文件是不一样的,因此在yolov5进行版本更新后历史版本如yolov5-5.0/yolov5-6.1等在训练过程中会出现上述报错问题。

2. 解决办法:

需要修改 \utils\loss.py 文件中的部分内容

2.1第一处修改:

在 \utils\loss.py 文件中查找 for in range(self.nl) 找到如下内容:
原始内容:

 for in range(self.nl):
            anchors = self.anchors[i]  #将这一行进行更改
            gain[2:6] = torch.tensor(p[i].shape)[[3, 2, 3, 2]]  # xyxy gain

更改后的内容:

 for in range(self.nl):
            anchors, shape = self.anchors[i], p[i].shape  # 改成这样
            gain[2:6] = torch.tensor(p[i].shape)[[3, 2, 3, 2]]  # xyxy gain

2.2 第二处修改:

在 \utils\loss.py 文件中查找 indices.append 找到如下内容:
原始内容:

a = t[:, 6].long()  # anchor indices
indices.append((b, a, gj.clamp_(0, gain[3] - 1), gi.clamp_(0, gain[2] - 1)))  # image, anchor, grid indices  # 将这一行进行修改
tbox.append(torch.cat((gxy - gij, gwh), 1))  # box

更改后的内容:

a = t[:, 6].long()  # anchor indices
indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))  # image, anchor, grid  # 修改成这样
tbox.append(torch.cat((gxy - gij, gwh), 1))  # box

更改后保存,然后重新运行train.py文件,成功解决!

3. 注意:

3.1 pycharm 中快捷键【Ctrl】+【F】可以查找当前文件夹下的内容
3.2 注意在更改代码的过程中一定要注意不要更改缩进的字符数
3.3 修改完一定记得要保存!!文章来源地址https://www.toymoban.com/news/detail-626243.html

4. 参考链接:

到了这里,关于RuntimeError: result type Float can‘t be cast to the desired output type long int的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包