Faster R-CNN 论文阅读

2024-08-27 06:48
文章标签 阅读 论文 cnn faster

本文主要是介绍Faster R-CNN 论文阅读,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Faster R-CNN 论文阅读


原文:Ren S, He K, Girshick R, et al. Faster R-CNN: towards real-time object detection with region proposal networks[C]// International Conference on Neural Information Processing Systems. MIT Press, 2015:91-99.

译文参考:Faster R-CNN论文翻译——中英文对照


简介

目标检测网络依赖于Region Proposal算法假设目标位置,通过引入Region Proposal(网络RPN),与检测网络共享全图像卷积特征,使得Region Proposals的成本近乎为零。

如下图所示,图a采用的是图像金子塔(Pyramids Of Images)方法;图b采用的是滤波器金字塔(Pyramids Of Filters)方法;图c引入“锚”盒(“Anchor” Boxes)这一概念作为多尺度和长宽比的参考,其可看作回归参考金字塔(Pyramids Of Regression References)方法,该方法可避免枚举图像、多尺度滤波器和长宽比。

解决多尺度和尺寸的不同方案

为了将RPN与Fast R-CNN相结合,本文提出了一种新的训练策略:在region proposal任务和目标检测任务之间交替进行微调,同时保持proposals的固定。该方案能够快速收敛,两个任务之间并共享具有卷积特征的统一网络。

网络结构

Faster R-CNN由两个模块组成:

  • RPN,该模块采用“注意力”机制
  • Fast R-CNN检测器

image_1cr1dqti65917tdc7invag0316.png-143.2kB

RPN

RPN以任意大小的图像作为输入,输出一组矩形的目标proposals,每个proposals都有一个目标得分。在实验中,假设两个网络(RPN和Fast R-CNN)共享一组共同的卷积层,并研究了具有5个共享卷积层的Zeiler和Fergus模型(ZF),以及具有13个共享卷积层的Simonyan和Zisserman模型(VGG-16)。

image_1cr6g7c0t16fm121j18i41f8t18s79.png-718.6kB

为了生成region proposals,对最后的共享卷积层输出的卷积特征图谱使用一个小网络。该网络以卷积特征图谱的 n ∗ n n*n nn空间窗口作为输入,且每个滑动窗口映射到一个低维特征,所有空间位置共享全连接层。

本文中, n = 3 n=3 n=3。关于低维特征,ZF为256维,VGG为512维,其后为Relu激活函数。

该低维特征作为两个子全连接层———边界框回归层(box-regression layer, reg)和边界框分类层(box-classification layer, cls)的输入,其卷积核均为 1 ∗ 1 1*1 11大小。

Anchors

对于每个滑动窗口位置,可同时预测多个region proposals,最大region proposals数为 k k k。因此,reg层具有 4 k 4k 4k个输出,用于编码k个边界框的坐标;cls层具有 2 k 2k 2k个得分,用于估计每个proposal是目标或不是目标的概率。

Anchors:k个proposals相对于 k k k个参考框是参数化形式。

The k k k proposals are parameterized relative to k k k reference boxes, which we call anchors.

anchor位于滑动窗口的中心,并与尺度和长宽比相关。默认情况,使用3个尺度和3个长宽比,在每个滑动位置产生 k = 9 k=9 k=9个anchors。对于大小为 W ∗ H W*H WH的卷积特征图谱,共产生 W H k WHk WHk个anchors。

特性:平移不变性
多尺度anchors作为回归参考

基于anchor的方法建立在anchors金字塔(pyramid of anchors)上,参考多尺度和长宽比的anchor盒来分类和回归边界框,用于解决多尺度和多长宽比问题。

image_1crcn8ecrp311v0sngj1os510bk9.png-61.9kB

mAP指平均精度均值,mean Average Precision。

Loss函数

为了训练RPN,为每个anchor分配一个二值标签。

正标签:

  • 与真值框的最高重叠交并比(Intersection-over-Union,IoU)比的anchor;
  • 与真值框的重叠IoU值超过0.7的anchor。

注:单个真值框可为多个anchor分配正标签。通常,采用第一个条件。在极少情况下,第二个条件可能无正样本。

负标签:IoU值低于0.3。

对Fast R-CNN中的多任务损失进行最小化。图像的损失函数为:

L ( { p i } , { t i } ) = 1 N c l s ∑ i L c l s ( p i , p i ∗ ) + λ 1 N r e g ∑ i p i ∗ L r e g ( t i , t i ∗ ) L(\{p_i\},\{t_i\})=\frac{1}{N_{cls}}\sum_iL_{cls}(p_i,p^*_i)+\lambda\frac{1}{N_{reg}}\sum_ip^*_iL_{reg}(t_i,t_i^*) L({pi},{ti})=Ncls1iLcls(pi,pi)+λNreg1ipiLreg(ti,ti)

其中, i i i是mini-batch数据中anchor的索引, p i p_i pi是第i个anchor作为目标的预测概率。若anchor为正标签,真值 p i ∗ = 1 p_i^*=1 pi=1;反之, p i ∗ = 0 p_i^*=0 pi=0 t i t_i ti是表示预测边界框4个参数化坐标的向量, t i ∗ t^*_i ti是正真值框的向量。分类损失 L c l s L_{cls} Lcls为两个类别的对数损失;回归损失 L r e g ( t i , t i ∗ ) = R ( t i − t i ∗ ) L_{reg}(t_i,t_i^*)=R(t_i-t_i^*) Lreg(ti,ti)=R(titi),其中 R R R为在Fast R-CNN一文中定义的鲁棒损失函数(平滑 L 1 L_1 L1)。 p i ∗ L r e g p_i^*L_{reg} piLreg表示回归损失仅对正anchor激活,否则被禁用( p i ∗ = 0 p_i^*=0 pi=0)。cls和rge层的输出分别由 p i p_i pi t i t_i ti组成。该两项使用 N c l s N_{cls} Ncls N r e g N_{reg} Nreg进行标准化,并使用平衡参数 λ \lambda λ加权处理。等式中cls项根据mini-batch的大小进行归一化,而reg项根据anchor位置的数据进行归一化。默认情况下, λ = 10 \lambda=10 λ=10从而使得cls和reg项的权重大致相等。

image_1creo30trhaq18fh1l8g6bd1tbj1p.png-13.1kB

实验结果表明, λ \lambda λ值在宽泛的范围内不敏感,且对reg和cls两项的归一化可简化。

对于边界框回归,采用Rich feature hierarchies for accurate object detection and semantic segmentation一文中的4个坐标参数化方法:

t X = ( x − x a ) / w a , t y = ( y − y a ) / h a , t W − l o g ( w / w a ) , t h = l o g ( h / h a ) , t X ∗ = ( x ∗ − x a ) / w a , t y ∗ = ( y ∗ − y a ) / h a t W ∗ = l o g ( w ∗ / w a ) , t h ∗ = l o g ( h ∗ / h a ) t_X = (x - x_a) / w_a, \quad t_y = (y - y_a) / h_a, \\ t_W - log(w / w_a), \quad t_h = log(h / h_a), \\ t_X^* = (x^* - x_a) / w_a, \quad t_y^* = (y^* - y_a) / h_a \\ t^*_W = log(w^* / w_a), \quad t^*_h = log(h^* / h_a) tX=(xxa)/wa,ty=(yya)/ha,tWlog(w/wa),th=log(h/ha),tX=(xxa)/wa,ty=(yya)/hatW=log(w/wa),th=log(h/ha)

其中, X , y , W X,y,W X,y,W h h h表示边界框的中心坐标及其宽和高。变量 x , x a x,x_a x,xa x ∗ x^* x分别表示预测边界框、anchor和真值框。

RPN训练策略

采样策略:以图像为中心。

在图像中随机采样256个anchors,用于mini-batch数据中损失函数的计算,正负样本的比例为 1 : 1 1:1 1:1

若图像中的正样本数量少于128个,则使用负样本数据补充mini-batch中的数据。

从标准差为0.01的零均值高斯分布中提取权重来随机初始化所有的新网络层,而共享卷积层通过预训练ImageNet分类模型来初始化。同时,调整ZF网络的所有网络层,以及VGG网络的conv3_1之上的网络,用于节省内存的使用。对于60k的mini-batch数据,学习率为0.001;对于PASCAL VOC数据集中的20k的mini-bacth数据,学习率为0.0001。随机梯度下降算法的动量设置为0.9,重量衰减率为0.0005。

RPN和Fast R-CNN共享特征

训练具有共享特征网络的三个方法:

  • 交替训练。首先训练RPN,并使用这些proposals训练Fast R-CNN;然后,使用Fast R-CNN初始化RPN,重复上述过程。

本文使用的方法。

  • 近似联合训练。在训练期间,RPN和Fast R-CNN网络合并为一个网络。在每次SGD迭代中,前向传递生成region proposals,在训练Fast R-CNN检测器时作为固定的、预计算的proposals。共享层组合来自RPN损失和Fast R-CNN损失的反向传播信息。

相比于交替训练方法,训练时间减少了大约25~50%。

  • 非近似的联合训练。

这篇关于Faster R-CNN 论文阅读的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1110934

相关文章

JAVA智听未来一站式有声阅读平台听书系统小程序源码

智听未来,一站式有声阅读平台听书系统 🌟 开篇:遇见未来,从“智听”开始 在这个快节奏的时代,你是否渴望在忙碌的间隙,找到一片属于自己的宁静角落?是否梦想着能随时随地,沉浸在知识的海洋,或是故事的奇幻世界里?今天,就让我带你一起探索“智听未来”——这一站式有声阅读平台听书系统,它正悄悄改变着我们的阅读方式,让未来触手可及! 📚 第一站:海量资源,应有尽有 走进“智听

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学

论文翻译:arxiv-2024 Benchmark Data Contamination of Large Language Models: A Survey

Benchmark Data Contamination of Large Language Models: A Survey https://arxiv.org/abs/2406.04244 大规模语言模型的基准数据污染:一项综述 文章目录 大规模语言模型的基准数据污染:一项综述摘要1 引言 摘要 大规模语言模型(LLMs),如GPT-4、Claude-3和Gemini的快

论文阅读笔记: Segment Anything

文章目录 Segment Anything摘要引言任务模型数据引擎数据集负责任的人工智能 Segment Anything Model图像编码器提示编码器mask解码器解决歧义损失和训练 Segment Anything 论文地址: https://arxiv.org/abs/2304.02643 代码地址:https://github.com/facebookresear

论文翻译:ICLR-2024 PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS

PROVING TEST SET CONTAMINATION IN BLACK BOX LANGUAGE MODELS https://openreview.net/forum?id=KS8mIvetg2 验证测试集污染在黑盒语言模型中 文章目录 验证测试集污染在黑盒语言模型中摘要1 引言 摘要 大型语言模型是在大量互联网数据上训练的,这引发了人们的担忧和猜测,即它们可能已

OmniGlue论文详解(特征匹配)

OmniGlue论文详解(特征匹配) 摘要1. 引言2. 相关工作2.1. 广义局部特征匹配2.2. 稀疏可学习匹配2.3. 半稠密可学习匹配2.4. 与其他图像表示匹配 3. OmniGlue3.1. 模型概述3.2. OmniGlue 细节3.2.1. 特征提取3.2.2. 利用DINOv2构建图形。3.2.3. 信息传播与新的指导3.2.4. 匹配层和损失函数3.2.5. 与Super

软件架构模式:5 分钟阅读

原文: https://orkhanscience.medium.com/software-architecture-patterns-5-mins-read-e9e3c8eb47d2 软件架构模式:5 分钟阅读 当有人潜入软件工程世界时,有一天他需要学习软件架构模式的基础知识。当我刚接触编码时,我不知道从哪里获得简要介绍现有架构模式的资源,这样它就不会太详细和混乱,而是非常抽象和易

BERT 论文逐段精读【论文精读】

BERT: 近 3 年 NLP 最火 CV: 大数据集上的训练好的 NN 模型,提升 CV 任务的性能 —— ImageNet 的 CNN 模型 NLP: BERT 简化了 NLP 任务的训练,提升了 NLP 任务的性能 BERT 如何站在巨人的肩膀上的?使用了哪些 NLP 已有的技术和思想?哪些是 BERT 的创新? 1标题 + 作者 BERT: Pre-trainin

[论文笔记]LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale

引言 今天带来第一篇量化论文LLM.int8(): 8-bit Matrix Multiplication for Transformers at Scale笔记。 为了简单,下文中以翻译的口吻记录,比如替换"作者"为"我们"。 大语言模型已被广泛采用,但推理时需要大量的GPU内存。我们开发了一种Int8矩阵乘法的过程,用于Transformer中的前馈和注意力投影层,这可以将推理所需

深度学习实战:如何利用CNN实现人脸识别考勤系统

1. 何为CNN及其在人脸识别中的应用 卷积神经网络(CNN)是深度学习中的核心技术之一,擅长处理图像数据。CNN通过卷积层提取图像的局部特征,在人脸识别领域尤其适用。CNN的多个层次可以逐步提取面部的特征,最终实现精确的身份识别。对于考勤系统而言,CNN可以自动从摄像头捕捉的视频流中检测并识别出员工的面部。 我们在该项目中采用了 RetinaFace 模型,它基于CNN的结构实现高效、精准的