目录

一、简介

二、模型结构

1.整体结构图

2.Backbone（CSPDarknet）

3.SPPF（Spatial Pyramid Pooling - Fast）

4.Neck（FPN+PAN）

5.Head

三、anchor编解码

1.anchor编码

2.anchor解码

四、损失函数

五、总结

系列文章

【目标检测】英雄联盟能用YOLOv5实时目标检测了 支持onnx推理

【目标检测】一张图~YOLOv5原理懂了~

一、简介

        YOLOv5是在YOLOv3和YOLOv4基础上进行的升级，没有颠覆性的改变，增加的tricks也要看实际情况使用。

        YOLOv5主要是给出了一个目标检测框架的落地方案，方便工作落地。

        YOLOv5原版代码中给出的网络文件是yaml格式，非常不直观，这里我们直接使用pytorch改写的版本介绍。

        这篇文章主要介绍原理，使用方式请跳转另一篇文章：【目标检测】英雄联盟能用YOLOv5实时目标检测了 支持onnx推理

        项目链接：     https://github.com/oaifaye/dcmyolo

二、模型结构

1.整体结构图

        YOLOv5按大小一共有5个版本，Yolov5n、Yolov5s、Yolov5m、Yolov5l、Yolov5x，这5个版本模型只有中间层的通道数和深度不同，模型大致结构其实是一样的，5个版本的模型结构参数如下：

        表格中的通道数是基础通道数=64乘以前面的通道数系数的结果，深度是基础深度=3乘以深度系数的结果，下面我们以Yolov5l为例（[bc]=64，[Depth]=3），给出模型图，进行介绍。

        图1中每个块下面灰色的部分是输出，图中用到的参数如下：

        batch_size=1

        input_size=640x640

        [bc]通道数=64

        [Depth]CSP中Bottleneck的深度=3

        [cls]分类数=3        ​​​​​​

  图1

2.Backbone（CSPDarknet）

        Backbone我们使用4个CSP块的堆叠，分别提取后三个CSP块的输出作为下一步骤的输入。

        Darknet是很经典的一个深层网络，在残差块中先使用1x1卷积增加通道数，再使用3x3同时stride=2的卷积做下采样，将通道数的改变和特征图大小的改变分开，这样做的好处是减少参数同时提升可解释性，同时使用stride=2的卷积做下采样减少计算开销。

        CSPDarknet在Darknet的基础上增加了CSP结构。进一步减少计算量并且增强梯度的表现。主要做法是在输入block之前，将输入分为两个部分，其中一部分通过block进行计算，另一部分直接通过一个shortcut进行concat，当然两个分支都会先使用一个1x1的卷积层将通道数减半，这样能保证concat之后通道数不变。

        YOLOv5的backbone使用了两种CSPDarknet，两种CSPDarknet差别并不大，只有一个残差的区别。

 图2

        如上图，CSP1_X应用于backbone主干网络部分，输入输出的特征图shape不变；backbone是较深的网络，增加残差结构可以增加层与层之间反向传播的梯度值，避免因为加深而带来的梯度消失，从而可以提取到更细粒度的特征并且不用担心网络退化。

图3

        CSP2_X主要应用在Neck部分，因为网络没那么深，去掉残差可以减少计算量。

        最原始的CSPDarknet激活函数是LeakyReLU，后期改为SiLU。SiLU是Sigmoid和LeakyReLU的改进版。SiLU具备无上界有下界、平滑、非单调的特性。SiLU在深层模型上的效果优于 LeakyReLU。可以看做是平滑的ReLU激活函数。

        SiLU公式：

        CSP块代码位置：dcmyolo/model/backbone/CSPdarknet.py

        CSP块代码实现：

class C3(nn.Module):# CSP Bottleneck with 3 convolutionsdef __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansionsuper(C3, self).__init__()c_ = int(c2 * e)  # hidden channelsself.cv1 = Conv(c1, c_, 1, 1)self.cv2 = Conv(c1, c_, 1, 1)self.cv3 = Conv(2 * c_, c2, 1)  # act=FReLU(c2)self.m = nn.Sequential(*[Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)])# self.m = nn.Sequential(*[CrossConv(c_, c_, 3, 1, g, 1.0, shortcut) for _ in range(n)])def forward(self, x):return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), dim=1))

3.SPPF（Spatial Pyramid Pooling - Fast）

        YOLOv4和原始版本的YOLOv5使用了SPP结构，SPP通过不同池化核大小的最大池化进行特征提取，提高网络的感受野。

        这里我们使用SPPF代替SPP结构，SPPF将三个并联的MaxPool2d改成串联，然后concat，好处是比SPP快很多，SPPF已经在图1中画完整，结构如下：

图4

        代码位置：dcmyolo/model/backbone/CSPdarknet.py

        代码实现：

class SPPF(nn.Module):# Spatial Pyramid Pooling - Fast (SPPF) layer for YOLOv5 by Glenn Jocherdef __init__(self, c1, c2, k=5):  # equivalent to SPP(k=(5, 9, 13))super().__init__()c_ = c1 // 2  # hidden channelsself.cv1 = Conv(c1, c_, 1, 1)self.cv2 = Conv(c_ * 4, c2, 1, 1)self.m = nn.MaxPool2d(kernel_size=k, stride=1, padding=k // 2)def forward(self, x):x = self.cv1(x)with warnings.catch_warnings():warnings.simplefilter('ignore')  # suppress torch 1.9.0 max_pool2d() warningy1 = self.m(x)y2 = self.m(y1)return self.cv2(torch.cat((x, y1, y2, self.m(y2)), 1))

4.Neck（FPN+PAN）

        YOLOv5的Neck是一个FPN+PAN结构。

图5

        FPN将不同尺度特征图上的特征进行融合，在融合之后得到的特征图上再进行预测。实现能在增加极小的计算量的情况下，处理好物体检测中的多尺度变化问题。        

        PAN结构是在FPN的基础上引入了 Bottom-up path augmentation 结构，不仅会对特征进行上采样实现特征融合，还会对特征再次进行下采样实现特征融合。

        FPN主要是通过融合高低层特征提升目标检测的效果，尤其可以提高小尺寸目标的检测效果。Bottom-up path augmentation结构可以充分利用网络浅特征进行分割，网络浅层特征信息对于目标检测非常重要，因为目标检测是像素级别的分类浅层特征多是边缘形状等特征。PAN 在 FPN 的基础上加了一个自底向上方向的增强，使得顶层 feature map 也可以享受到底层带来的丰富的位置信息，从而提升了大物体的检测效果。

        FPN层自顶向下传达强语义特征，而PAN则自底向上传达强定位特征，两两联手，从不同的主干层对不同的检测层进行参数聚合,这样的操作确实很皮。

        Neck还有一个改进改进的是在每次concat之后增加了没有残差的CSP块：

5.Head

        Head没有太大变化，还是比较传统的YoloHead（用YOLOvX的话是耦合头：Couped Head）。

        我们使用的是英雄联盟的数据集，有3个类别，在图1中三个Head从下往上输出分别为(24,20,20)，(24,40,40)，(24,80,80)。

        其中20、40、80为固定值（input_size=640x640的情况下），用于不同尺度的anchor编解码。

        24 = (4+1+3)*3，前4个参数用于判断每一个特征点的回归参数，分别对应着先验框中心坐标在xy方向的偏移和预测框高宽；第5个参数预测否包含物体；最后3个参数预测每个类别的概率；*3是因为9个预设anchors分3组，每组有3个先验框。

        如果使用VOC数据集，有20个分类，Head输出为：(75,20,20)，(75,40,40)，(75,80,80)。

        如果使用COCO数据集，有80个分类，Head输出为：(255,20,20)，(255,40,40)，(255,80,80)。

        Neck+Head代码如下：

class YoloBody(nn.Module):def __init__(self, anchors_mask, num_classes, phi, anchors=None, input_shape=None, backbone_model_dir='', need_detect_box=False):super(YoloBody, self).__init__()depth_dict          = {'n': 0.33, 's': 0.33, 'm': 0.67, 'l': 1.00, 'x': 1.33}width_dict          = {'n': 0.25, 's': 0.50, 'm': 0.75, 'l': 1.00, 'x': 1.25}dep_mul, wid_mul    = depth_dict[phi], width_dict[phi]base_channels       = int(wid_mul * 64)  # 64base_depth          = max(round(dep_mul * 3), 1)  # 3#-----------------------------------------------##   输入图片是3, 640, 640#   初始的基本通道是64#-----------------------------------------------#self.backbone       = self._get_backbone(base_channels, base_depth, phi, backbone_model_dir)self.upsample   = nn.Upsample(scale_factor=2, mode="nearest")self.conv_for_feat3         = Conv(base_channels * 16, base_channels * 8, 1, 1)self.conv3_for_upsample1    = C3(base_channels * 16, base_channels * 8, base_depth, shortcut=False)self.conv_for_feat2         = Conv(base_channels * 8, base_channels * 4, 1, 1)self.conv3_for_upsample2    = C3(base_channels * 8, base_channels * 4, base_depth, shortcut=False)self.down_sample1           = Conv(base_channels * 4, base_channels * 4, 3, 2)self.conv3_for_downsample1  = C3(base_channels * 8, base_channels * 8, base_depth, shortcut=False)self.down_sample2           = Conv(base_channels * 8, base_channels * 8, 3, 2)self.conv3_for_downsample2  = C3(base_channels * 16, base_channels * 16, base_depth, shortcut=False)# 256, 80, 80 => 3 * (5 + num_classes), 80, 80self.yolo_head_P3 = nn.Conv2d(base_channels * 4, len(anchors_mask[2]) * (5 + num_classes), 1)# 512, 40, 40  => 3 * (5 + num_classes), 40, 40self.yolo_head_P4 = nn.Conv2d(base_channels * 8, len(anchors_mask[1]) * (5 + num_classes), 1)# 1024, 20, 20,  => 3 * (5 + num_classes), 20, 20self.yolo_head_P5 = nn.Conv2d(base_channels * 16, len(anchors_mask[0]) * (5 + num_classes), 1)self.need_detect_box = need_detect_boxif need_detect_box:self.detectBox = DetectBox(anchors, num_classes, input_shape)def _get_backbone(self, channels, depth, phi, backbone_model_dir):"""初始化backboneReturns-------"""backbone_model_path = os.path.join(backbone_model_dir, 'cspdarknet_'+phi+'_backbone.pth')return CSPDarknet(channels, depth, backbone_model_path)def forward(self, x):#  backbonefeat1, feat2, feat3 = self.backbone(x)# 1024, 20, 20 -> 512, 20, 20P5          = self.conv_for_feat3(feat3)# 512, 20, 20 -> 512, 40, 40P5_upsample = self.upsample(P5)# 512, 40, 40 -> 1024, 40, 40P4          = torch.cat([P5_upsample, feat2], 1)# 1024, 40, 40 -> 512, 40, 40P4          = self.conv3_for_upsample1(P4)# 512, 40, 40 -> 256, 40, 40P4          = self.conv_for_feat2(P4)# 256, 40, 40 -> 256, 80, 80P4_upsample = self.upsample(P4)# 256, 80, 80 concat 256, 80, 80 -> 512, 80, 80P3          = torch.cat([P4_upsample, feat1], 1)# 512, 80, 80 -> 256, 80, 80P3          = self.conv3_for_upsample2(P3)# 256, 80, 80 -> 256, 40, 40P3_downsample = self.down_sample1(P3)# 256, 40, 40 concat 256, 40, 40 -> 512, 40, 40P4 = torch.cat([P3_downsample, P4], 1)# 512, 40, 40 -> 512, 40, 40P4 = self.conv3_for_downsample1(P4)# 512, 40, 40 -> 512, 20, 20P4_downsample = self.down_sample2(P4)# 512, 20, 20 cat 512, 20, 20 -> 1024, 20, 20P5 = torch.cat([P4_downsample, P5], 1)# 1024, 20, 20 -> 1024, 20, 20P5 = self.conv3_for_downsample2(P5)#---------------------------------------------------##   第三个特征层#   y3=(batch_size,24,80,80)#---------------------------------------------------#out2 = self.yolo_head_P3(P3)#---------------------------------------------------##   第二个特征层#   y2=(batch_size,24,40,40)#---------------------------------------------------#out1 = self.yolo_head_P4(P4)#---------------------------------------------------##   第一个特征层#   y1=(batch_size,24,20,20)#---------------------------------------------------#out0 = self.yolo_head_P5(P5)if self.need_detect_box:return self.detectBox([out0, out1, out2])return out0, out1, out2

三、anchor编解码

        YOLOv5的anchor有9个，根据数据集会有不同，我们以COCO的anchor为例：

10,13, 16,30, 33,23,  30,61, 62,45, 59,119,  116,90, 156,198, 373,326

        anchor分成3组，每组3对，每对表示anchor的宽高。3组分别对应模型的输出，分别是：

        (1,24,80,80)对应第一组10,13, 16,30, 33,23

        (1,24,40,40)对应第二组30,61, 62,45, 59,119

         (1,24,20,20)对应第三组116,90, 156,198, 373,326

        可以看到输出的尺度越小，对应的anchor越大，因为输出可以看做将图片平均分成了80x80、40x40、20x20，尺度划分的越细，越有利于预测小物体，划分的越组越有利于预测大物体，所以小尺度对应大anchor是有道理的。

        下面我们以20x20的尺度为例，进行介绍。图像被划分成20x20，意味着stride=640/20=32。

1.anchor编码

        编码的功能是在训练阶段，将gt的左上右下坐标表示方式与anchor结合转换成与模型输出一样的格式，方便对预测值进行比较计算损失。

        步骤如下：

        （1）将gt的坐标除以图片的宽高进行归一化；将box左上右下的表示方式转换成xywh：

#---------------------------------------------------#
#   对真实框进行归一化，调整到0-1之间    
#---------------------------------------------------#
box[:, [0, 2]] = box[:, [0, 2]] / self.input_shape[1]
box[:, [1, 3]] = box[:, [1, 3]] / self.input_shape[0]
#---------------------------------------------------#
#   序号为0、1的部分，为真实框的中心
#   序号为2、3的部分，为真实框的宽高
#   序号为4的部分，为真实框的种类
#---------------------------------------------------#
box[:, 2:4] = box[:, 2:4] - box[:, 0:2]
box[:, 0:2] = box[:, 0:2] + box[:, 2:4] / 2

        （2）多正样本匹配，判断gt落在哪个尺度的格中，就由哪个格负责预测，这里每个gt选择三个框，如下图：

        如果gt的中点落在a，除了选择a所在的格还选择1、2，三个格同时参与预测。同理b+1+3、c+3+4、d+2+4。

    def get_near_points(self, x, y, i, j):sub_x = x - isub_y = y - jif sub_x > 0.5 and sub_y > 0.5:return [[0, 0], [1, 0], [0, 1]]elif sub_x < 0.5 and sub_y > 0.5:return [[0, 0], [-1, 0], [0, 1]]elif sub_x < 0.5 and sub_y < 0.5:return [[0, 0], [-1, 0], [0, -1]]else:return [[0, 0], [1, 0], [0, -1]]

        找到中心后，就要计算中心的距离的偏移，归一化的中心点乘以20即可。

#-------------------------------------------------------#
#   计算出正样本在特征层上的中心点
#-------------------------------------------------------#
batch_target[:, [0,2]]  = targets[:, [0,2]] * in_w
batch_target[:, [1,3]]  = targets[:, [1,3]] * in_h

        （3）中点找到之后，接下来计算宽高，这就用到anchor，这里要算的事gt宽高相对于anchor的比值。

        anchor除以stride得到anchor在当前尺度的表示。

        计算wh与anchor的比值，去掉比值超过4的，至于为什么是4，取决于解码中的公式，下面我们会提到。

#   wh                          : num_true_box, 2
#   np.expand_dims(wh, 1)       : num_true_box, 1, 2
#   anchors                     : 9, 2
#   np.expand_dims(anchors, 0)  : 1, 9, 2
#   
#   ratios_of_gt_anchors代表每一个真实框和每一个先验框的宽高的比值
#   ratios_of_gt_anchors    : num_true_box, 9, 2
#   ratios_of_anchors_gt代表每一个先验框和每一个真实框的宽高的比值
#   ratios_of_anchors_gt    : num_true_box, 9, 2
#
#   ratios                  : num_true_box, 9, 4
#   max_ratios代表每一个真实框和每一个先验框的宽高的比值的最大值
#   max_ratios              : num_true_box, 9
#-------------------------------------------------------#
ratios_of_gt_anchors = np.expand_dims(batch_target[:, 2:4], 1) / np.expand_dims(anchors, 0)
ratios_of_anchors_gt = np.expand_dims(anchors, 0) / np.expand_dims(batch_target[:, 2:4], 1)
ratios               = np.concatenate([ratios_of_gt_anchors, ratios_of_anchors_gt], axis = -1)
max_ratios           = np.max(ratios, axis = -1)for t, ratio in enumerate(max_ratios):
# -------------------------------------------------------#
#   和gt相比 去掉宽高相差太大的anchors
#   这里阈值=4
#   因为tw = (sigmoid(gtw) * 2) ** 2  th = (sigmoid(gth) * 2) ** 2
#   tw和th的取值是(0, 4)
# -------------------------------------------------------#
over_threshold = ratio < self.threshold
over_threshold[np.argmin(ratio)] = True
for k, mask in enumerate(self.anchors_mask[l]):if not over_threshold[mask]:continue#----------------------------------------##   获得真实框属于哪个网格点#   x  1.25     => 1#   y  3.75     => 3#----------------------------------------#i = int(np.floor(batch_target[t, 0]))j = int(np.floor(batch_target[t, 1]))offsets = self.get_near_points(batch_target[t, 0], batch_target[t, 1], i, j)for offset in offsets:local_i = i + offset[0]local_j = j + offset[1]if local_i >= in_w or local_i < 0 or local_j >= in_h or local_j < 0:continueif box_best_ratio[l][k, local_j, local_i] != 0:if box_best_ratio[l][k, local_j, local_i] > ratio[mask]:y_true[l][k, local_j, local_i, :] = 0else:continue#----------------------------------------##   取出真实框的种类#----------------------------------------#c = int(batch_target[t, 4])#----------------------------------------##   tx、ty代表中心调整参数的真实值#----------------------------------------#y_true[l][k, local_j, local_i, 0] = batch_target[t, 0]y_true[l][k, local_j, local_i, 1] = batch_target[t, 1]y_true[l][k, local_j, local_i, 2] = batch_target[t, 2]y_true[l][k, local_j, local_i, 3] = batch_target[t, 3]y_true[l][k, local_j, local_i, 4] = 1y_true[l][k, local_j, local_i, c + 5] = 1#----------------------------------------##   获得当前先验框最好的比例#----------------------------------------#box_best_ratio[l][k, local_j, local_i] = ratio[mask]

        经过上面三步，gt的原始坐标就转换成了预测坐标信息，shape为（1,3,20,20,4）接下来看解码。

2.anchor解码

        解码针对模型输出进行操作，将模型的输出变成xywh形式

        中点偏移的范围由原来的(0, 1)调整到了( −0.5, 1.5)，公式如下：

        目标宽高的计算公式调整为，其中范围（0,1）、和范围（0,1）所以和范围（0,4）：

参数解释：

        ：预测的坐标信息

        : 最终预测坐标信息

        ：表示sigmoid，将坐标归一化到0~1

        : 中心点所在的网格的左上角坐标

        : anchor框的大小

        经过解码的输出shape为（1,3,20,20,4）,可以和上面的编码结果计算损失了。

四、损失函数

        YoloV5的损失函数分为三个部分：

        Location loss：定位损失，采用GIoU loss（CIoU的具体介绍可以参考https://blog.csdn.net/xian0710830114/article/details/128177705），只计算正样本的定位损失，利用前4个值计算损失。

        Objectness loss：obj置信度损失，采用BCE loss，计算的是否有物体的obj损失。利用第5个值计算损失。

        Classes loss：分类损失，采用BCE loss，只计算正样本的分类损失。利用第5个值后面的所有值计算损失。

        总的损失函数是一个Multi-task Loss：

          三段损失的代码实现：

    def box_giou(self, b1, b2):"""输入为：----------b1: tensor, shape=(batch, feat_w, feat_h, anchor_num, 4), xywhb2: tensor, shape=(batch, feat_w, feat_h, anchor_num, 4), xywh返回为：-------giou: tensor, shape=(batch, feat_w, feat_h, anchor_num, 1)"""# ----------------------------------------------------##   求出预测框左上角右下角# ----------------------------------------------------#print("max:", torch.max(b1), torch.max(b2))b1_xy = b1[..., :2]b1_wh = b1[..., 2:4]b1_wh_half = b1_wh / 2.b1_mins = b1_xy - b1_wh_halfb1_maxes = b1_xy + b1_wh_half# ----------------------------------------------------##   求出真实框左上角右下角# ----------------------------------------------------#b2_xy = b2[..., :2]b2_wh = b2[..., 2:4]b2_wh_half = b2_wh / 2.b2_mins = b2_xy - b2_wh_halfb2_maxes = b2_xy + b2_wh_half# ----------------------------------------------------##   求真实框和预测框所有的iou# ----------------------------------------------------#intersect_mins = torch.max(b1_mins, b2_mins)intersect_maxes = torch.min(b1_maxes, b2_maxes)intersect_wh = torch.max(intersect_maxes - intersect_mins, torch.zeros_like(intersect_maxes))intersect_area = intersect_wh[..., 0] * intersect_wh[..., 1]b1_area = b1_wh[..., 0] * b1_wh[..., 1]b2_area = b2_wh[..., 0] * b2_wh[..., 1]union_area = b1_area + b2_area - intersect_areaiou = intersect_area / union_area# ----------------------------------------------------##   找到包裹两个框的最小框的左上角和右下角# ----------------------------------------------------#enclose_mins = torch.min(b1_mins, b2_mins)enclose_maxes = torch.max(b1_maxes, b2_maxes)enclose_wh = torch.max(enclose_maxes - enclose_mins, torch.zeros_like(intersect_maxes))# ----------------------------------------------------##   计算对角线距离# ----------------------------------------------------#enclose_area = enclose_wh[..., 0] * enclose_wh[..., 1]giou = iou - (enclose_area - union_area) / enclose_areareturn giou    def BCELoss(self, pred, target):epsilon = 1e-7pred = self.clip_by_tensor(pred, epsilon, 1.0 - epsilon)output = - target * torch.log(pred) - (1.0 - target) * torch.log(1.0 - pred)return outputdef MSELoss(self, pred, target):return torch.pow(pred - target, 2)

五、总结

        YOLOv5在算法上有创新，但不多，工作中使用还是挺方便的，主要创新如下：

        (1) 通过灵活的配置参数，可以得到不同复杂度的模型，Yolov5n、Yolov5s、Yolov5m、Yolov5l、Yolov5x。

        (2) Mosaic数据增强、Mosaic利用了四张图片进行拼接实现数据中增强，优点是丰富检测物体的背景,且在计算时一下子会计算四张图片的数据。

        (3) 使用SiLU激活函数。

        (4) 多正样本匹配：在之前的Yolo系列里面，在训练时每一个真实框对应一个正样本，即在训练时，每一个真实框仅由一个先验框负责预测。YoloV5中为了加快模型的训练效率，增加了正样本的数量，在训练时，每一个真实框可以由多个先验框负责预测。

        YOLOv5还有很多很多细节，比如数据增强、NMS等等，这篇文章只说了最重要的，其它细节会慢慢说。