1. RCNN
论文:Rich feature hierarchies for accurate object detection and semantic segmentation
地址:https://arxiv.org/abs/1311.2524
分为两个阶段:
- 目标候选框
Object Proposals
- Proposals缩放后放入CNN网络
目标候选框的实现:区域提案方法(Extract region proposals):使用选择性搜索selective search提取2000个候选区域,经过得到的(x',y',w',h')
与现实标注(x,y,w,h)
以欧式距离损失做回归
对候选框bounding box进行评分和整合。
selective search
使用一种过分隔方法,将图片分隔成比较小的区域
计算所有临近区域之间的相似性,包括颜色、纹理、尺度等
将相似度比较高的区域合并到一起
计算合并区域和临近区域到相似度
迭代合并,知道整个图片变成一个区域。
在选取候选框的时候,除了选择性搜索,还可以使用边缘框edge boxes
的方法。
RCNN过程
- 一张图像生成1000到2000个候选区域(使用selective search方法)
- 对每个候选区域,使用深度网络提取特征(卷积池化)
- 特征送入每一类SVM分类器,判别是否属于该类
- 使用回归器精细修正候选框位置
不是一个端到端的结构,整体结构比较松散。
-
候选区域的生成
利用Selective Search算法通过图像分割的方法得到一些原始区域,然后使用一些合并策略将这些区域合并,得到一个层次化的区域结构,而这些结构就包含着可能需要的物体。
-
对每个候选区域,使用深度网络提取特征
将2000个候选区域缩放到 277 × 277 p i x e l 277\times 277 pixel 277×277pixel,接着将候选区域输入事先训练好的AlexNet CNN网络中,获取4096维到特征,得到 2000 × 4096 2000\times 4096 2000×4096维矩阵。
-
特征送入每一类的SVM分类器,判定类别
将 2000 × 4096 2000\times4096 2000×4096维特征与20个SVM组成的权值矩阵 4096 × 20 4096\times20 4096×20相乘,获得 2000 × 20 2000\times20 2000×20维矩阵表示每个建议框是某个目标类别的得分。分别对上述 2000 × 20 2000\times20 2000×20维矩阵中每一列即每一类进行非极大值抑制剔除重叠建议框,得到该列即该类中得分最高的一些建议框。
-
使用回归器精细修正候选框位置 - 依然是针对CNN输出的特征向量进行预测
对NMS处理后剩余的建议框进一步筛选。接着分别用20个回归器对上述20个类别中剩余的建议框进行回归操作,最终得到每个类别的修正后的得分最高的bounding box。
如图,黄色框口P表示建议框Region Proposal,绿色窗口G表示世纪框Ground Truth,红色窗口 G ^ \hat G G^表示Region Proposal进行回归后的预测窗口,可以用最小二乘法解决的线性回归问题。
非极大值抑制(NMS)
非极大值抑制,为了去除冗余的检测框。
在对conv5后的特征图,接入SVM进行打分,打好分后做非极大值抑制。
非极大值抑制过程:
- 假设有3个框,根据SVM的打分顺序:概率从大到小为A、B、C
- 判断B、C与A的重复率
IoU
是否大于阀值,如果大于阀值,则丢弃。如果小于阀值,则保留。 - 保留下来的框,根据打分排序,重复上诉过程。
IoU 交并比
Bounding-box regression是用来微调窗口的。
(x,y,w,h)
:x,y
为平移,w,h
为尺度缩放。
RCNN框架
2. Fast-RCNN
论文:Fast R-CNN
地址:https://arxiv.org/abs/1504.08083
Fast R-CNN是继R-CNN之后的又一力作。同样使用VGG16作为网络的backbone,与R-CNN相比,训练时间快6倍,测试推理时间快213倍,准确率从62%提升至66%(在Pascal VOC数据集上)。
Fast RCNN算法流程
- 一张图像生成1000到2000个候选区域(使用Selective Search方法)
- 将图像输入网络得到相应的特征图,将SS算法生成的候选框投影到特征图上获得相应的特征矩阵
- 将每个特征矩阵通过ROI Pooling层缩放到 7 × 7 7\times 7 7×7大小的特征图,接着将特征图展平通过一系列全连接层得到预测结果。
一次性计算整张图像特征。不限制输入图像的尺寸。Fast-RCNN将整张图像送入网络,紧接着从特征图上提取相应的候选区域。这些候选区域的特征不需要再重复计算。而对于R-CNN,是一次将候选框区域输入卷积神经网络得到特征。
分类器,输出N+1个类别的概率(N为检测目标的种类,1为背景),用N+1个节点。
边界框回归器,输出对应N+1个类别的候选边界框回归参数 ( d x , d y , d w , d h ) (d_x,d_y,d_w,d_h) (dx,dy,dw,dh),共 ( N + 1 ) × 4 (N+1)\times4 (N+1)×4个节点。
Fast RCNN损失函数
分类损失: L c l s ( p , u ) = − l o g p u L_{cls}(p,u) = -logp_u Lcls(p,u)=−logpu
边界框回归损失:
L
l
o
c
(
t
u
,
v
)
=
∑
i
∈
{
x
,
y
,
w
,
h
}
s
m
o
o
t
h
L
1
(
t
i
u
−
v
i
)
s
m
o
o
t
h
L
1
(
x
)
=
{
0.5
x
2
i
f
∣
x
∣
<
1
∣
x
∣
−
0.5
o
t
h
e
r
w
i
s
e
L_{loc}(t^u,v) = \sum_{i\in\{x,y,w,h\}}smooth_{L_1}(t^u_i-v_i) \\ smooth_{L_1}(x) = \begin{cases} 0.5x^2 \ \ \ if |x|<1 \\ |x|-0.5 \ \ \ otherwise \end{cases}
Lloc(tu,v)=i∈{x,y,w,h}∑smoothL1(tiu−vi)smoothL1(x)={0.5x2 if∣x∣<1∣x∣−0.5 otherwise
补充:Cross Entropy Loss交叉熵损失
-
针对多分类问题(softmax输出,所有输出概率和为1)
H = − ∑ i o i ∗ l o g ( o i ) H = -\sum_io^*_ilog(o_i) H=−i∑oi∗log(oi) -
针对二分类问题(sigmoid输出,每个输出节点之间互不干预)
H = − 1 N ∑ i = 1 N [ o i ∗ l o g o i + ( 1 − o i ∗ ) l o g ( 1 − o i ) ] H = -\frac{1}{N}\sum^N\limits_{i=1}[o^*_ilogo_i+(1-o^*_i)log(1-o_i)] H=−N1i=1∑N[oi∗logoi+(1−oi∗)log(1−oi)]
其中 o i ∗ o^*_i oi∗为真实标签值, o i o_i oi为预测值,默认 l o g log log以 e e e为底等于 l n ln ln
Fast RCNN框架
3. Faster-RCNN
论文:Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks
网址:https://arxiv.org/abs/1506.01497
Faster RCNN是继Fast RCNN后的又一力作。同样适用VGG16作为网络的backbone。
RNP+Fast R-CNN
Faster RCNN算法流程
- 将图像输入网络得到相应的特征图
- 使用RPN结构生成候选框,将RPN生成的候选框投影到特征图上获得相应的特征矩阵
- 将每个特征矩阵通过ROI Pooling层缩放到 7 × 7 7\times 7 7×7大小的特征图,接着将特征图展平通过一系列全连接层得到预测结果。
RPN网络
对于特征图上的每个 3 × 3 3\times 3 3×3的滑动窗口,计算出滑动窗口中心点对应原始图像上的中心点,并计算出k个anchor boxes(注意和proposal的差异)
需要提前设定好k个不同尺寸比例的anchor。在faster rcnn中给了三个尺度和三个比例。
三种尺度(面积): 12 8 2 , 25 6 2 , 51 2 2 128^2,256^2,512^2 1282,2562,5122,(面积具体数字,论文中说是根据经验所得)
三种比例: 1 : 1 , 1 : 2 , 2 : 1 1:1,1:2,2:1 1:1,1:2,2:1
意思就是,在 12 8 2 128^2 1282这个尺度上,有 1 : 1 , 1 : 2 , 2 : 1 1:1,1:2,2:1 1:1,1:2,2:1三个anchor,在 25 6 2 256^2 2562这个尺度上,有 1 : 1 , 1 : 2 , 2 : 1 1:1,1:2,2:1 1:1,1:2,2:1三个anchor,在 51 2 2 512^2 5122这个尺度上,有 1 : 1 , 1 : 2 , 2 : 1 1:1,1:2,2:1 1:1,1:2,2:1三个anchor。分别来负责检测不同大小的物体。
每个位置(每个滑动窗口)在原图上都对应有 3 × 3 = 9 3\times 3=9 3×3=9个anchor。
但是存在一个问题,VGG的感受野为228,那怎么去预测一个比它大的目标的边界框呢?如去预测 25 6 2 , 51 2 2 256^2,512^2 2562,5122尺度上的物体。论文中说,通过一个小的感受野去预测一个比它大的目标的边界框是有可能的,根据经验,我们看到一个物体的一部分,可以猜出这个物体的位置区域。
对于一张 1000 × 600 × 3 1000\times 600\times 3 1000×600×3的图像,大约有 60 × 40 × 9 ( 20 k ) 60\times 40\times 9(20k) 60×40×9(20k)个anchor,忽略跨越边界的anchor以后,剩下约 6 k 6k 6k个anchor。对于RPN生成的候选框之间存在大量重叠,基于候选框的 c l s cls cls得分,采用非极大值抑制, I o U IoU IoU设置为0.7,这样每张图片只剩2k个候选框。
在原论文中k=9
利用RPN生成的边界框回归参数将anchor调整到我们所需要的候选框。
对于每张图片,上万个anchor中,采样256个anchor,由正样本和负样本两部分组成,比例大概为1:1
。如果正样本个数不足128,则用负样本进行填充。
定义为正样本的方式:
- 只要anchor与ground-truth box的IoU大于0.7,则这个anchor为正样本。
- anchor与某个ground-truth box拥有最大的IoU,则也认为它为正样本。
定义为负样本的方式:
- 与所有ground-truth box的IoU小于0.3的anchor,则定义为负样本
对于正样本与负样本之外的所有anchor,则丢弃掉。
RPN损失函数
- p i p_i pi表示第 i i i个anchor存在目标的概率
- p i ∗ p^*_i pi∗当为正样本时为1,当为负样本时为0
- t i t_i ti表示预测第 i i i个anchor的边界框回归参数
- t i ∗ t^*_i ti∗表示第 i i i个anchor对应的GT Box
- N c l s N_{cls} Ncls表示第一个mini-batch中的所有样本数量256
- N r e g N_{reg} Nreg表示anchor位置的个数(不是anchor个数)约2400
分类损失:二值交叉熵损失
回归损失:
Faster R-CNN训练
直接采用RPN Loss + Fast R-CNN Loss的联合训练方法
原论文中采用分别训练RPN以及Fast R-CNN的方法:
- 利用ImageNet预训练分类模型初始化前置卷积网络层参数,并开始单独训练RPN网络参数。
- 固定RPN网络独有的卷积层以及全连接层参数,再利用ImageNet预训练分类模型初始化前置卷积网络参数,并利用RPN网络生成的目标建议框去训练Fast RCNN网络参数。
- 固定利用Fast RCNN训练好的前置卷积网络层参数,去微调RPN网络独有的卷积层以及全连接层参数。
- 同样保持固定前置卷积网络层参数,去微调Fast RCNN网络的全连接层参数。最后RPN网络与Fast RCNN网络共享前置卷积网络层参数,构成一个统一网络。
Faster-RCNN框架文章来源:https://www.toymoban.com/news/detail-817343.html
文章来源地址https://www.toymoban.com/news/detail-817343.html
到了这里,关于目标检测 - RCNN系列模型的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!