(四)yolov5--common.py文件解读

这篇具有很好参考价值的文章主要介绍了(四)yolov5--common.py文件解读。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

 🍨 本文为🔗365天深度学习训练营 中的学习记录博客
🍖 原作者:K同学啊|接辅导、项目定制 

参考网址:https://blog.csdn.net/qq_38251616/article/details/124665998

                  yolov5 代码解读 --common.py_XiaoGShou的博客-CSDN博客

        上次对yolov5s.yaml文件进行了解读,这次在对common.py文件解读之前,先放上yolov5s.yaml对应的网络结构图,如下图所示。对于网络结构图中的各个模块,其定义则在common.py文件中。

(四)yolov5--common.py文件解读

1. 头文件解读

如下图所示为部分重要的库的解读和说明,由此可以看出它包含了绘图模块、科学计算、http等库,其中requests可以让我们直接从http协议拉取视频流输入到model中进行检测。

import ast
import contextlib
import json
import math                 #数学函数模块
import platform
import warnings
import zipfile
from collections import OrderedDict, namedtuple
from copy import copy       # 数据拷贝模块,注意区分浅拷贝和深拷贝
from pathlib import Path    # Path将str转换为Path对象,该模块使字符串路径易于操作
from urllib.parse import urlparse

import cv2
import numpy as np          # 科学计算库,支持大量的维度数组、矩阵运算,并对数组提供数学函数库
import pandas as pd         # 科学计算库,基于numpy,用于快速分析数据、数据清洗和准备等
import requests             # pythond HTTP客户端库
import torch                # pytorch深度学习框架
import torch.nn as nn       # nn为pytorch中的神经网络模块化接口
from IPython.display import display
from PIL import Image       # 图像基础操作模块
from torch.cuda import amp  # 混合精度训练模块

2. 基本模块

 2.1 antopad

"""
功能:为卷积或池化自动padding,可根据卷积核大小k自动计算卷积核padding数
      用于Conv函数和Classify函数中
参数:k--卷积核大小     
      p--自动计算的需要pad值()
      d--膨胀标记
"""
def autopad(k, p=None, d=1):  # kernel, padding, dilation
    # Pad to 'same' shape outputs
    if d > 1:
        k = d * (k - 1) + 1 if isinstance(k, int) else [d * (x - 1) + 1 for x in k]  # actual kernel-size
    if p is None:
        p = k // 2 if isinstance(k, int) else [x // 2 for x in k]  # auto-pad
    return p

2.2 Conv

        该模块是网络中最基本的组件,为标准卷积层,由卷积层+BN层+激活函数组成,如下图所示。很多深度学习网络中的Conv层基本上是这样的组成,只是在激活函数上有所不同。

(四)yolov5--common.py文件解读

        以下是对Conv模块的解读:

class Conv(nn.Module):
    # Standard convolution with args(ch_in, ch_out, kernel, stride, padding, groups, dilation, activation)
    default_act = nn.SiLU()  # default activation 默认为SiLU激活函数

    def __init__(self, c1, c2, k=1, s=1, p=None, g=1, d=1, act=True):
        """
        该模块在Focus、Bottleneck、BottleneckCSP、C3、SPP、DWConv、TransformerBloc等模块中调用
        标准卷积 conv+BN+act
        参数:c1 -- 输入channel值
             c2 -- 输出channel值
             k  -- 卷积核size
             s  -- 卷积步长stride
             p  -- 卷积padding,通常为None,通过autopad自动计算需要pad的padding数
             g  -- 卷积的groups数,1为普通卷积,>1则为深度可分离卷积
             act-- 激活函数类型,True就是默认激活函数SiLU();
                                False就是不使用激活函数;
                                类型是nn.Module就使用传进来的激活函数类型;
        """
        super().__init__()
        self.conv = nn.Conv2d(c1, c2, k, s, autopad(k, p, d), groups=g, dilation=d, bias=False)
        self.bn = nn.BatchNorm2d(c2)
        self.act = self.default_act if act is True else act if isinstance(act, nn.Module) else nn.Identity()

    # 前向计算,网络执行的顺序是根据forward函数来决定的:conv+BN+act
    def forward(self, x):
        return self.act(self.bn(self.conv(x)))


     # 用于model类的fuse函数,conv+BN,加速推理,一般用于测试或验证阶段
    def forward_fuse(self, x):
        return self.act(self.conv(x))

2.3 Focus

        在yolov5的v6.0版本中的网络结构中已没有Focus模块,但仍然保留了该模块的实现类。它是为了减少浮点数和提高速度,而不是增加featuremap的,其本质是将图像进行切片,类似于下采样取值,将原图像的宽高信息进行切分,再聚合到channel通道中,其结构如下所示:

(四)yolov5--common.py文件解读

        以下是对Focus模块代码的解读:

class Focus(nn.Module):
    # Focus wh information into c-space 把宽度w和高度h的信息整合到c空间中
    '''
    在yolo.py的parse_model函数中被调用
    理论:从高分辨率图像中,周期性的抽出像素点重构到低分辨率图像中,即将图像相邻的四个位置进行堆叠,
        聚集wh维度信息到c通道中,提高每个点的感受野,并减少原始信息的丢失,该模块的设计主要是减少计算量加快速度。
        先做4个slice,再concat,最后再做Conv
        slice后 (b1,c1,w,h) -> 分成4个slice,每个slice(b,c1,w/2,h/2)
        concat(dim=1)后 4个slice(b,c1,w/2,h/2) -> (b,4c1,w/2,h/2)
        conv后 (b,4c1,w/2,h/2) -> (b,c2,w/2,h/2)
    参数:c1 -- slice后的channel
         c2 -- Focus最终输出的channel
          k -- 最后卷积的kernel的四则
          s -- 最后卷积的stride步长
          p -- 最后卷积的padding
          g -- 最后卷积的分组情况,=1普通卷积,>1深度可分离卷积
        act -- bool激活函数类型,默认True[SiLU()/Swish],False[不用激活函数]
    '''
    def __init__(self, c1, c2, k=1, s=1, p=None, g=1, act=True):  # ch_in, ch_out, kernel, stride, padding, groups
        super().__init__()
        self.conv = Conv(c1 * 4, c2, k, s, p, g, act=act)
        # self.contract = Contract(gain=2)

    # 先进行切分, 然后进行拼接, 最后再做conv操作
    def forward(self, x):  # x(b,c,w,h) -> y(b,4c,w/2,h/2)
        return self.conv(torch.cat((x[..., ::2, ::2], x[..., 1::2, ::2], x[..., ::2, 1::2], x[..., 1::2, 1::2]), 1))
        # return self.conv(self.contract(x))

2.4 Bottleneck

        Bottleneck的模型结构如下图所示,当Shotcut=True(注意:具体代码里的条件为Shotcut and c1==c2)时,其网络结构类似残差网络,将输入input与两次Conv后的结构进行相加,否则不进行add操作。

(四)yolov5--common.py文件解读

        以下是对Bottleneck的代码进行详解:

class Bottleneck(nn.Module):
    # Standard bottleneck
    '''
    在BottleneckCSP和yolo.py的parse_model函数中被调用
    参数: c1 -- 第一个卷积的输入channel
          c2 -- 第二个卷积的输出channel
    shortcut -- bool值,是否有shortcut连接,默认True
           g -- 卷积分组的个数,=1普通卷积,>1深度可分离卷积
           e -- 为bottleneck结构中的瓶颈部分的通道膨胀率(expansion ratio),
                使用0.5即为输入的1/2,
                e为控制瓶颈的参数,e越小则瓶颈越窄,
                瓶颈是指经过一个Conv将通道数缩小,然后再通过一个Conv变成原来的通道数,
                而e就是控制这个窄度的
                 e*c2就是第一个卷积的输出channel,也是第二个卷积的输入channel
                 颈部结构可以减少训练参数
    '''
    def __init__(self, c1, c2, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, shortcut, groups, expansion
        super().__init__()
        c_ = int(c2 * e)  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1) # 1*1卷积
        self.cv2 = Conv(c_, c2, 3, 1, g=g) # 3*3卷积
        self.add = shortcut and c1 == c2 #shortcut为True,并且输入输出的channel大小一样才能进行add操作

    '''
    详解:
        这里的瓶颈层,瓶颈主要体现在通道数channel上面!
        一般1*1卷积具有很强的灵活性,这里用于降低通道数,如上面的膨胀率为0.5,
        若输入通道为640,那么经过1*1的卷积层之后变为320;
        经过3*3之后变为输出的通道数,这样参数量会大量减少
        这里的shortcut即为图中的虚线,在实际中,shortcut(捷径)不一定是上面都不操作,
        也有可能有卷积处理,但此时,另一只一般是多个ReNet模块串联而成。
        而这里的shortcut也成为了identity分支,可以理解为恒等映射,
        另一个分支被称为残差分支(Residual分支)
        我们经常使用的残差分支实际上是1*1+3*3+1*1结构
    '''

    def forward(self, x):
        return x + self.cv2(self.cv1(x)) if self.add else self.cv2(self.cv1(x))

2.5 BottleneckCSP

        从字面意思即可知道BottleneckCSP由Bottleneck和CSP组成,其具体结构如下图所示。它是由几个标准的Bottleneck的堆叠+几个标准卷积层

(四)yolov5--common.py文件解读

        以下是对BottleneckCSP模块的解读

class BottleneckCSP(nn.Module):
    # CSP Bottleneck https://github.com/WongKinYiu/CrossStagePartialNetworks
    """在C3模块和yolo.py的parse_model模块调用
        参数: c1 -- 整个BottleneckCSP的输入channel
               c2 -- 整个BottleneckCSP的输出channel
                n -- 有n个Bottleneck
         shortcut -- bool Bottleneck中是否有shortcut,默认True
                g -- Bottleneck中的3x3卷积类型  =1普通卷积  >1深度可分离卷积
                e -- expansion ratio c2xe=中间其他所有层的卷积核个数/中间所有层的输入输出channel数
    """
    def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
        super().__init__()
        c_ = int(c2 * e)  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1)
        self.cv2 = nn.Conv2d(c1, c_, 1, 1, bias=False)
        self.cv3 = nn.Conv2d(c_, c_, 1, 1, bias=False)
        self.cv4 = Conv(2 * c_, c2, 1, 1)
        self.bn = nn.BatchNorm2d(2 * c_)  # applied to cat(cv2, cv3)
        self.act = nn.SiLU()
        # n次Bottleneck
        self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))

    def forward(self, x):
        y1 = self.cv3(self.m(self.cv1(x)))
        y2 = self.cv2(x)
        return self.cv4(self.act(self.bn(torch.cat((y1, y2), 1))))

2.6 C3

        下面是C3的网络结构图,从结构中可以看出它和Bottleneck的结构非常相似,它是Bottleneck的优化版本,比Bottleneck更简单、快速和轻量,而其实现的功能却基本上相差无几。

(四)yolov5--common.py文件解读        

        以下是对C3模块的解读

class C3(nn.Module):
    # CSP Bottleneck with 3 convolutions
    """
    在C3TR模块和yolo.py的parse_model模块调用
    参数:c1 -- 整个BottleneckCSP的输入channel
         c2 -- 整个BottleneckCSP的输出channel
          n -- 有n个Bottleneck
        shortcut -- bool Bottleneck中是否有shortcut,默认True
          g -- Bottleneck中的3x3卷积类型  =1普通卷积  >1深度可分离卷积
          e -- expansion ratio c2xe=中间其他所有层的卷积核个数/中间所有层的输入输出channel数
    """
    def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
        super().__init__()
        c_ = int(c2 * e)  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1)
        self.cv2 = Conv(c1, c_, 1, 1)
        self.cv3 = Conv(2 * c_, c2, 1)  # optional act=FReLU(c2)
        self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))

    def forward(self, x):
        return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1))

2.7 SPP

        使用空间金字塔池化(Spatial Pyramid Pooling,SPP)的有两个作用:

  1. 将更多不同分辨率的特征进行融合
  2. 它使得我们构建的网络,可以输入任意大小的图片,不需要经过裁剪缩放等操作

        高层网络层的感受野的语义信息表征能力强,低层网络层的感受野空间细节信息表征能力强。空间金字塔池化(Spatial Pyramid Pooling,SPP)是目标检测算法中对高层特征进行多尺度池化以增加感受野的重要措施之一。

        CNN的卷积层是可以处理任意尺度的输入的,只是在全连接层处有限制尺度。而经典的空间金字塔池化模块首先将输入的卷积特征分成不同的尺寸,然后每个尺寸提取固定维度的特征,最后将这些特征拼接成一个固定的维度,如下图所示。输入的卷积特征图的大小为(w, h),第一层空间金字塔采用4x4的刻度对特征图进行划分,其将输入的特征图分成了16个块,每块的大小为(w/4, h/4);第二层空间金字塔采用2x2的刻度对特征图进行划分,将特征图分为4个块,每块大小为(w/2, h/2);第三层空间金字塔将整张特征图作为一块,进行特征提取操作,最终的特征向量为16+4+1=21维。

(四)yolov5--common.py文件解读

        SPP是在Feature Map经过不同尺度的池化后,将特征图们重新cat起来传到下一层侦测网络中,其网络结构如下图所示。这样SPP就融合了局部与全局特征,同时还兼顾了避免裁剪图像的作用。

 (四)yolov5--common.py文件解读

        以下是对SPP的解读

class SPP(nn.Module):
    # Spatial Pyramid Pooling (SPP) layer https://arxiv.org/abs/1406.4729
    '''
    在yolo.py的parse_model函数中被调用
    参数 c1: SPP模块的输入channel
         c2: SPP模块的输出channel
         k: 保存着三个maxpool的卷积核大小,默认是(5, 9, 13)
    '''
    def __init__(self, c1, c2, k=(5, 9, 13)):
        super().__init__()
        c_ = c1 // 2  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1)
        self.cv2 = Conv(c_ * (len(k) + 1), c2, 1, 1)
        # m最大池化操作的list,通过nn.ModuleList进行构造一个m模块,在构造时对每一个k都要进行最大池化
        self.m = nn.ModuleList([nn.MaxPool2d(kernel_size=x, stride=1, padding=x // 2) for x in k])

    def forward(self, x):
        x = self.cv1(x)
        with warnings.catch_warnings():
            warnings.simplefilter('ignore')  # suppress torch 1.9.0 max_pool2d() warning
            return self.cv2(torch.cat([x] + [m(x) for m in self.m], 1))

2.8 Concat        

        Concat将自身按照某个维度进行concat,通常用来合并前后两个feature map,注意是合并,而非相加,需要区别shortcut。下图是对shortcut和concat的示意图,由图中可以看出,Concat将两个38*38*256的featuremap合并为一个38*38*512的featuremap,channel维的直接堆叠,而不是shortcut中channel维对应位置上值的相加。

(四)yolov5--common.py文件解读

(图片来自https://blog.csdn.net/HUASHUDEYANJING/article/details/126182551)

        以下是对Concat的代码解读,其中参数dimension即指定concat的维度,实质调用的是torch中的cat函数。

class Concat(nn.Module):
    # Concatenate a list of tensors along dimension
    '''
    在yolo.py的parse_model函数中被调用
    参数: dimension-- 沿着该维度进行concat
    '''
    def __init__(self, dimension=1):
        super().__init__()
        self.d = dimension

    def forward(self, x):
        return torch.cat(x, self.d)

        对于torch.cat在指定维度究竟是如何cat的,可以用测试代码来查看,如下所示。3个2*3的x进行cat,维度d=0时,是在行向量上进行cat,cat后的维度为6*3;维度d=1时,是在列向量上进行cat,cat后的维度为2*9;

(四)yolov5--common.py文件解读

        三维向量亦是如此,如下所示。注意torch中的tensor跟我们常规的维度顺序有所不同,如下所示,2*3*4的向量,我们通常会认为是2行*3列*4channel,但torch中的tensor则是2channel*3行*4列。

(四)yolov5--common.py文件解读

(四)yolov5--common.py文件解读

2.9 Contract、Expand

        这两个函数都用来改变featuremap维度,其改变方法刚好相反,可以认为他们是featuremap维度改变的正逆变换,其中

(1)Contract函数:改变输入特征的shape,将feature map的 w 和 h 维度(缩小)的数据收缩到channel维度上(放大)。如:x(1,64,80,80) to x(1,256,40,40)。

(2)Expand函数:改变输入特征的shape,但与Contract的相反,是将channel维度(变小)的数据扩展到 W 和 H 维度(变大)。如:x(1,64,80,80) to x(1,16,160,160)。

        以下是对这两个模块的解读。

class Contract(nn.Module):
    # Contract width-height into channels, i.e. x(1,64,80,80) to x(1,256,40,40)
    '''
    在yolo.py的parse_model函数中被调用,用的不多
    改变输入特征的shape,将w和h维度(缩小)的数据收缩到channel维度上(放大)
    '''
    def __init__(self, gain=2):
        super().__init__()
        # 缩放的尺度
        self.gain = gain

    def forward(self, x):
        b, c, h, w = x.size()  # assert (h / s == 0) and (W / s == 0), 'Indivisible gain'
        s = self.gain
        x = x.view(b, c, h // s, s, w // s, s)  # x(1,64,40,2,40,2)
        # permute: 改变tensor的维度顺序
        x = x.permute(0, 3, 5, 1, 2, 4).contiguous()  # x(1,2,2,64,40,40)
        # .view: 改变tensor的维度
        return x.view(b, c * s * s, h // s, w // s)  # x(1,256,40,40)

3. 扩展模块

        Yolov5在最初搭建时就已经考虑了各方面的功能,除了包含yolov5本身需要的模块外,还包含很多扩展模块,比如给模型搭载NMS功能,给模型封装成包含前处理、推理、后处理的模块(预处理 + 推理 + NMS),二次分类等等功能。因此yolov5的模块比较齐全,在其基础上进行改进时,可以使用这些扩展模块。

3.1 非极大值抑制(NMS)

        无论是双阶段还是单阶段目标检测算法,最终都会在同一目标的附近区域内产生一些重合度较高的预测框,通常会采用非极大值抑制(Non-max Suppression, NMS)来剔除冗余的预测框,筛选出高质量的检测结果。顾名思义,NMS 就是抑制同一类别中非极大值的元素,类似于局部最优搜索算法。简单来说就是模型会在同一个目标附近预测出很多框,我们最终应该选择哪个框。

       非极大值抑制的基本原理:

  1. 将所有的矩形框按照不同的类别标签分组,组内按分数高低进行排序,取得分最高的矩形框先放入结果序列;
  2. 遍历剩余矩形框,计算与当前得分最高的矩形框的交并比IOU,若大于预设的阈值则剔除;
  3. 对剩余的检测框重复操作(2),直到处理完图像内所有的候选框,即可得到最后的框序列信息;

        如下图所示,是使用NMS使用的前后效果。

(四)yolov5--common.py文件解读

         在yolov5中,非极大值抑制的定义函数是位于utils/general.py的non_max_supression函数。在yolov5的6.0版本中common.py中并未对NMS进行类封装,而是直接调用non_max_supression函数。

3.2 AutoShape

        这个模块是一个模型扩展模块,给模型封装成包含前处理、推理、后处理的模块(预处理 + 推理 + NMS),用的不多。autoshape模块在train中不会被调用,当模型训练结束后,会通过这个模块对图片进行重塑,来方便模型的预测。

        该模块自动调整shape,由于我们输入的图像可能不一样,可能来自cv2/np/PIL/torch 对输入进行预处理,因此通过调用此模块调整其shape。以下为代码解析部分。

class AutoShape(nn.Module):
    # YOLOv5 input-robust model wrapper for passing cv2/np/PIL/torch inputs. Includes preprocessing, inference and NMS
    # YOLOv5模型包装器,用于传递 cv2/np/PIL/torch输入
    # 包括预处理(preprocessing)、推理(inference)和NMS
    conf = 0.25  # NMS confidence threshold
    iou = 0.45  # NMS IoU threshold
    agnostic = False  # NMS class-agnostic
    multi_label = False  # NMS multiple labels per box
    classes = None  # (optional list) filter by class, i.e. = [0, 15, 16] for COCO persons, cats and dogs
    max_det = 1000  # maximum number of detections per image
    amp = False  # Automatic Mixed Precision (AMP) inference

    def __init__(self, model, verbose=True):
        super().__init__()
        if verbose:
            LOGGER.info('Adding AutoShape... ')
        copy_attr(self, model, include=('yaml', 'nc', 'hyp', 'names', 'stride', 'abc'), exclude=())  # copy attributes
        self.dmb = isinstance(model, DetectMultiBackend)  # DetectMultiBackend() instance
        self.pt = not self.dmb or model.pt  # PyTorch model
        # 开启验证模式
        self.model = model.eval()
        if self.pt:
            m = self.model.model.model[-1] if self.dmb else self.model.model[-1]  # Detect()
            m.inplace = False  # Detect.inplace=False for safe multithread inference
            m.export = True  # do not output loss values

    def _apply(self, fn):
        # Apply to(), cpu(), cuda(), half() to model tensors that are not parameters or registered buffers
        self = super()._apply(fn)
        if self.pt:
            m = self.model.model.model[-1] if self.dmb else self.model.model[-1]  # Detect()
            m.stride = fn(m.stride)
            m.grid = list(map(fn, m.grid))
            if isinstance(m.anchor_grid, list):
                m.anchor_grid = list(map(fn, m.anchor_grid))
        return self


    @smart_inference_mode()
    def forward(self, ims, size=640, augment=False, profile=False):
        # Inference from various sources. For size(height=640, width=1280), RGB images example inputs are:
        #   file:        ims = 'data/images/zidane.jpg'  # str or PosixPath
        #   URI:             = 'https://ultralytics.com/images/zidane.jpg'
        #   OpenCV:          = cv2.imread('image.jpg')[:,:,::-1]  # HWC BGR to RGB x(640,1280,3)
        #   PIL:             = Image.open('image.jpg') or ImageGrab.grab()  # HWC x(640,1280,3)
        #   numpy:           = np.zeros((640,1280,3))  # HWC
        #   torch:           = torch.zeros(16,3,320,640)  # BCHW (scaled to size=640, 0-1 values)
        #   multiple:        = [Image.open('image1.jpg'), Image.open('image2.jpg'), ...]  # list of images
        '''
            这里的imgs针对不同的方法读入,官方也给了具体的方法,size是图片的尺寸
        '''
        dt = (Profile(), Profile(), Profile())
        with dt[0]:
            if isinstance(size, int):  # expand
                size = (size, size)
            p = next(self.model.parameters()) if self.pt else torch.empty(1, device=self.model.device)  # param
            autocast = self.amp and (p.device.type != 'cpu')  # Automatic Mixed Precision (AMP) inference
            # 把图片转化成模型输入的形式
            # 图片如果是tensor格式,说明是预处理过的,直接正常进行前向推理即可,NMS在推理结束进行(函数外写)
            if isinstance(ims, torch.Tensor):  # torch
                with amp.autocast(autocast):
                    return self.model(ims.to(p.device).type_as(p), augment=augment)  # inference

            # Pre-process
            # 输入的可能不是一张图片,因为你输入的形式应该是[batch_size,image style],这里获取到输入的n张图片,
            # 然后每张图片存储在列表imgs里面
            n, ims = (len(ims), list(ims)) if isinstance(ims, (list, tuple)) else (1, [ims])  # number, list of images
            shape0, shape1, files = [], [], []  # image and inference shapes, filenames
            # 遍历图片
            for i, im in enumerate(ims):
                f = f'image{i}'  # filename
                # 这个if条件基本上不会满足,他是针对一些特殊需求的,输入的是uri
                # 这其实也是有效的,比如训练了一个黄图监测网络,然后通过爬虫从地址池里爬取img的uri,储存起来
                if isinstance(im, (str, Path)):  # filename or uri
                    im, f = Image.open(requests.get(im, stream=True).raw if str(im).startswith('http') else im), im
                    im = np.asarray(exif_transpose(im))
                elif isinstance(im, Image.Image):  # PIL Image
                    im, f = np.asarray(exif_transpose(im)), getattr(im, 'filename', f) or f
                # 存放图像的名字
                files.append(Path(f).with_suffix('.jpg').name)
                '''
                下面的操作主要是以下功用:
                首先将图片原来的[H,W,C]的shape转换成[C,H,W]
                然后将图像统一为3通道图像,灰度图则转化为RGB图
                提取图像的[H,W]保存到shape0列表里面
                用输入图像的size(上面默认的640)/max[H,W],就可以得到缩放比例g
                再将原始的[H,W]x缩放比例g得到模型输入的shape保存到shape1列表里面
                然后更新imgs
                '''
                if im.shape[0] < 5:  # image in CHW
                    im = im.transpose((1, 2, 0))  # reverse dataloader .transpose(2, 0, 1)
                im = im[..., :3] if im.ndim == 3 else cv2.cvtColor(im, cv2.COLOR_GRAY2BGR)  # enforce 3ch input
                s = im.shape[:2]  # HWC
                shape0.append(s)  # image shape
                g = max(size) / max(s)  # gain
                shape1.append([int(y * g) for y in s])
                ims[i] = im if im.data.contiguous else np.ascontiguousarray(im)  # update
            shape1 = [make_divisible(x, self.stride) for x in np.array(shape1).max(0)]  # inf shape
            x = [letterbox(im, shape1, auto=False)[0] for im in ims]  # pad
            x = np.ascontiguousarray(np.array(x).transpose((0, 3, 1, 2)))  # stack and BHWC to BCHW
            x = torch.from_numpy(x).to(p.device).type_as(p) / 255  # uint8 to fp16/32

        with amp.autocast(autocast):
            # Inference
            with dt[1]:
                y = self.model(x, augment=augment)  # forward

            # Post-process
            with dt[2]:
                # 然后对y进行nms处理,就得等到了最终的preds [batch_size, n, 4]和scores [batch_size,n,1]了
                y = non_max_suppression(y if self.dmb else y[0],
                                        self.conf,
                                        self.iou,
                                        self.classes,
                                        self.agnostic,
                                        self.multi_label,
                                        max_det=self.max_det)  # NMS
                for i in range(n):
                    scale_boxes(shape1, y[i][:, :4], shape0[i])

            # 把处理好的内容给到Detections类中做最后的处理
            return Detections(ims, y, files, dt, self.names, x.shape)

3.3 Detections

        该模块是一个专门针对目标检测的封装类。

class Detections:
    # YOLOv5 detections class for inference results
    # YOLOv5推理结果检测类
    def __init__(self, ims, pred, files, times=(0, 0, 0), names=None, shape=None):
        super().__init__()
        d = pred[0].device  # device
        gn = [torch.tensor([*(im.shape[i] for i in [1, 0, 1, 0]), 1, 1], device=d) for im in ims]  # normalizations
        self.ims = ims  # list of images as numpy arrays
        self.pred = pred  # list of tensors pred[0] = (xyxy, conf, cls)
        self.names = names  # class names
        self.files = files  # image filenames
        self.times = times  # profiling times
        self.xyxy = pred  # xyxy pixels
        self.xywh = [xyxy2xywh(x) for x in pred]  # xywh pixels
        self.xyxyn = [x / g for x, g in zip(self.xyxy, gn)]  # xyxy normalized
        self.xywhn = [x / g for x, g in zip(self.xywh, gn)]  # xywh normalized
        self.n = len(self.pred)  # number of images (batch size)
        self.t = tuple(x.t / self.n * 1E3 for x in times)  # timestamps (ms)
        self.s = tuple(shape)  # inference BCHW shape

    def _run(self, pprint=False, show=False, save=False, crop=False, render=False, labels=True, save_dir=Path('')):
        s, crops = '', []
        for i, (im, pred) in enumerate(zip(self.ims, self.pred)):
            s += f'\nimage {i + 1}/{len(self.pred)}: {im.shape[0]}x{im.shape[1]} '  # string
            if pred.shape[0]:
                for c in pred[:, -1].unique():
                    n = (pred[:, -1] == c).sum()  # detections per class
                    s += f"{n} {self.names[int(c)]}{'s' * (n > 1)}, "  # add to string
                s = s.rstrip(', ')
                if show or save or render or crop:
                    annotator = Annotator(im, example=str(self.names))
                    for *box, conf, cls in reversed(pred):  # xyxy, confidence, class
                        label = f'{self.names[int(cls)]} {conf:.2f}'
                        if crop:
                            file = save_dir / 'crops' / self.names[int(cls)] / self.files[i] if save else None
                            crops.append({
                                'box': box,
                                'conf': conf,
                                'cls': cls,
                                'label': label,
                                'im': save_one_box(box, im, file=file, save=save)})
                        else:  # all others
                            annotator.box_label(box, label if labels else '', color=colors(cls))
                    im = annotator.im
            else:
                s += '(no detections)'

            im = Image.fromarray(im.astype(np.uint8)) if isinstance(im, np.ndarray) else im  # from np
            if show:
                display(im) if is_notebook() else im.show(self.files[i])
            if save:
                f = self.files[i]
                im.save(save_dir / f)  # save
                if i == self.n - 1:
                    LOGGER.info(f"Saved {self.n} image{'s' * (self.n > 1)} to {colorstr('bold', save_dir)}")
            if render:
                self.ims[i] = np.asarray(im)
        if pprint:
            s = s.lstrip('\n')
            return f'{s}\nSpeed: %.1fms pre-process, %.1fms inference, %.1fms NMS per image at shape {self.s}' % self.t
        if crop:
            if save:
                LOGGER.info(f'Saved results to {save_dir}\n')
            return crops

    @TryExcept('Showing images is not supported in this environment')
    def show(self, labels=True):
        self._run(show=True, labels=labels)  # show results

    def save(self, labels=True, save_dir='runs/detect/exp', exist_ok=False):
        save_dir = increment_path(save_dir, exist_ok, mkdir=True)  # increment save_dir
        self._run(save=True, labels=labels, save_dir=save_dir)  # save results

    def crop(self, save=True, save_dir='runs/detect/exp', exist_ok=False):
        save_dir = increment_path(save_dir, exist_ok, mkdir=True) if save else None
        return self._run(crop=True, save=save, save_dir=save_dir)  # crop results

    def render(self, labels=True):
        self._run(render=True, labels=labels)  # render results
        return self.ims

    def pandas(self):
        # return detections as pandas DataFrames, i.e. print(results.pandas().xyxy[0])
        new = copy(self)  # return copy
        ca = 'xmin', 'ymin', 'xmax', 'ymax', 'confidence', 'class', 'name'  # xyxy columns
        cb = 'xcenter', 'ycenter', 'width', 'height', 'confidence', 'class', 'name'  # xywh columns
        for k, c in zip(['xyxy', 'xyxyn', 'xywh', 'xywhn'], [ca, ca, cb, cb]):
            a = [[x[:5] + [int(x[5]), self.names[int(x[5])]] for x in x.tolist()] for x in getattr(self, k)]  # update
            setattr(new, k, [pd.DataFrame(x, columns=c) for x in a])
        return new

    def tolist(self):
        # return a list of Detections objects, i.e. 'for result in results.tolist():'
        r = range(self.n)  # iterable
        x = [Detections([self.ims[i]], [self.pred[i]], [self.files[i]], self.times, self.names, self.s) for i in r]
        # for d in x:
        #    for k in ['ims', 'pred', 'xyxy', 'xyxyn', 'xywh', 'xywhn']:
        #        setattr(d, k, getattr(d, k)[0])  # pop out of list
        return x

    def print(self):
        LOGGER.info(self.__str__())

    def __len__(self):  # override len(results)
        return self.n

    def __str__(self):  # override print(results)
        return self._run(pprint=True)  # print results

    def __repr__(self):
        return f'YOLOv5 {self.__class__} instance\n' + self.__str__()

3.4 Classify

        这是一个二级分类模块。比如做车牌识别,先识别出车牌,如果相对车牌上的字进行识别,就需要二级分类进一步检测。如果对模型输出的分类需要进行二次分类,就可以用这个模块。这个类写的比较简单,若进行复杂的二级分类,可以根据需要进行改写。

4. 修改模型

         在使用yolov5时,若需要对模型进行修改,则需要修改相应的模块代码,例如,将C3模块修改为以下结构,则代码修改如下所示。

(四)yolov5--common.py文件解读文章来源地址https://www.toymoban.com/news/detail-487255.html

class C3(nn.Module):
    # CSP Bottleneck with 3 convolutions
    """
    在C3TR模块和yolo.py的parse_model模块调用
    参数:c1 -- 整个BottleneckCSP的输入channel
         c2 -- 整个BottleneckCSP的输出channel
          n -- 有n个Bottleneck
        shortcut -- bool Bottleneck中是否有shortcut,默认True
          g -- Bottleneck中的3x3卷积类型  =1普通卷积  >1深度可分离卷积
          e -- expansion ratio c2xe=中间其他所有层的卷积核个数/中间所有层的输入输出channel数
    """
    def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansion
        super().__init__()
        c_ = int(c2 * e)  # hidden channels
        self.cv1 = Conv(c1, c_, 1, 1)
        self.cv2 = Conv(c1, c_, 1, 1)
        # self.cv3 = Conv(2 * c_, c2, 1)  # optional act=FReLU(c2)
        self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))

    def forward(self, x):
        # 修改C3的结构,若要保持最终输出的channel仍为c2,则中间层的channel需为c2/2
        return torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1)
        # return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1))

到了这里,关于(四)yolov5--common.py文件解读的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • YOLOv5源码逐行超详细注释与解读(2)——推理部分detect.py

    前面简单介绍了YOLOv5的项目目录结构(直通车:YOLOv5源码逐行超详细注释与解读(1)——项目目录结构解析),对项目整体有了大致了解。 今天要学习的是 detect.py 。通常这个文件是用来预测一张图片或者一个视频的,也可以预测一个图片文件夹或者是一些网络流。下载后直

    2023年04月18日
    浏览(57)
  • YOLOv5源码逐行超详细注释与解读(6)——网络结构(1)yolo.py

    在上一篇中,我们简单介绍了YOLOv5的配置文件之一 yolov5s.yaml ,这个文件中涉及很多参数,它们的调用会在这篇 yolo.py 和下一篇 common.py 中具体实现。 本篇我们会介绍 yolo.py ,这是YOLO的特定模块,和网络构建有关。 在 YOLOv5源码中,模型的建立是依靠 yolo.py 中的函数和对象完

    2023年04月15日
    浏览(77)
  • YOLOv5源码逐行超详细注释与解读(4)——验证部分val(test).py

    本篇文章主要是对YOLOv5项目的验证部分。这个文件之前是叫test.py,后来改为 val.py 。 在之前我们已经学习了推理部分 detect.py 和训练部分 train.py 这两个,而我们今天要介绍的验证部分 val.py 这个文件主要是 train.py 每一轮训练结束后, 用 val.py 去验证当前模型的mAP、混淆矩阵等

    2023年04月15日
    浏览(85)
  • yolov5s.yaml 文件解读

    nc: 81 - 表示模型被训练来识别的类别数量为81。 depth_multiple: 0.33 - 模型深度的倍数。这个参数用于调整模型中层的深度。值为0.33意味着每个层的深度为原始设计深度的33%,通常用于减小模型大小和计算需求,但可能会牺牲精度。 width_multiple: 0.50 - 表示层通道的倍数。这个参数

    2024年01月21日
    浏览(40)
  • 【Yolov5】保姆级别源码讲解之-推理部分detect.py文件

    克隆一下yolov5的代码 配置好项目所需的依赖包 opt 为执行可以传递的参数 具体的参数如图所示,比较重要的参数 weights权重文件、–source 数据集合 – data 数据集的配置 weights 权重文件 – source 为需要推理的原图 data参数 数据配置 imgsz 参数是训练配置图片的大小 device 设备信

    2024年02月08日
    浏览(40)
  • 解读YOLOV5的runs文件

    使用YOLOV5训练数据之后我们需要一些评判标准来告诉我们所训练的效果究竟如何。这时,YOLOV5给出了一个文件解决我们的问题。该文件在直接生成为runs文件,可理解记录一些运行时的日志信息。 作为一种特定的二维矩阵,列代表预测的类别,行代表实际的类别。其对角线上

    2024年02月03日
    浏览(43)
  • 第Y3周:yolov5s.yaml文件解读

    🍨 本文为🔗365天深度学习训练营 中的学习记录博客 🍖 原作者:K同学啊|接辅导、项目定制 ✅本周任务: 将yolov5s网络模型中第4层的C3*2修改为C3*1,第6层的C3*3修改为C3*2。 简单介绍: YOLOv5配置了4种不同大小的网络模型,分别是 YOLOv5s 、 YOLOv5m 、 YOLOv5l 、 YOLOv5x ,其中 YO

    2024年02月08日
    浏览(42)
  • YOLOv5源码逐行超详细注释与解读(5)——配置文件yolov5s.yaml

    在YOLOv5中网络结构采用 yaml 作为配置文件,之前我们也介绍过,YOLOv5配置了4种不同大小的网络模型,分别是 YOLOv5s、YOLOv5m、YOLOv5l、YOLOv5x ,这几个模型的结构基本一样, 不同的是depth_multiple模型深度和width_multiple模型宽度这两个参数 。 就和我们买衣服的尺码大小排序一样,

    2023年04月16日
    浏览(52)
  • yolov5的detect.py代码详解

    目标检测系列之yolov5的detect.py代码详解 哈喽呀!今天又是小白挑战读代码啊!所写的是目标检测系列之yolov5的detect.py代码详解。yolov5代码对应的是官网v6.1版本的,链接地址如下:https://github.com/ultralytics/yolov5 废话不多说,直接上代码啦! 代码如下(示例): 代码如下(示例

    2024年02月04日
    浏览(46)
  • Python —— 解析Yolov5 - detect.py

    Yolov5自带detect.py加入cv2简单操作      说明:im0为mat的原图     detect.py参数解析      1、运行detect.py的两种方式:           (1)、 使用命令 :                python detect.py --source ./testfiles/img1.jpg --weights runs/train/base/weights/best.pt --c

    2024年02月12日
    浏览(43)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包