当前位置：首页 > news >正文

Fast R-CNN论文研读整理记录

news 2025/8/28 9:39:08

篇名：Fast R-CNN

摘要：

1 介绍

1.1R-CNN和SPPnet(常规套路先总结先人不足)

多阶段训练流程复杂

训练过程资源消耗大

检测速度瓶颈明显

1.2贡献部分：

2 Fast R-CNN的结构以及训练方法

2.1 The ROI pooling layer

2.2预训练网络的初始化

2.3网络微调

多任务损失

Mini-batch sampling

Back-propagation through Roi pooling layers

SGD hyper-parameters

2.4尺度不变性

3 Fast R-CNN的网络检测

3.1 Truncated SVD for faster detection(截断奇异值分解)

4 Fast R-CNN的优势总结

这篇博客采用边翻译边总结的写作方式，记录了我在阅读英文原文时遇到的问题和思考。由于我的英文论文阅读能力有限，恳请各位读者带着批判性思维阅读本文。如有不当之处，欢迎留言指正，让我们共同探讨、愉快交流！

篇名：Fast R-CNN

作者：Ross Girshick、Microsoft Research

摘要：

本研究提出了一种基于区域的快速卷积神经网络目标检测方法Fast-RCNN，该方法显著改进了现有基于深度卷积网络的目标检测技术。Fast-RCNN通过多项创新性改进，在显著提升训练和测试效率的同时，进一步提高了检测精度。实验结果表明，使用深度VGG16网络时，Fast-RCNN的训练速度比RCNN提升9倍，测试速度提升213倍，并在PASCAL VOC2012数据集上取得了优异的检测精度。与SPPnet相比，Fast-RCNN在训练和测试速度上分别提升了3倍和10倍，展现出显著的性能优势。

1 介绍

最近，深度卷积神经网络在图像分类任务和目标检测任务上的精确度有了重大提高，相比于图像分类任务，目标检测是一个更具有挑战性的任务！更复杂也更难做，因为复杂的原因，当前多级级联的方法十分慢而且不够机智。

目标检测的复杂性来源于需要精确的确定目标的位置，这就产生了两个极具挑战性的工作，首先，大量的待检测目标需要被处理(后文中统称proposal)，其次，待检测目标的位置必须被精确的确定出来，这两个问题的解决常常伴随着速度，精确度或者简化的问题！

本文，我们精简了当前目标检测所用的卷积神经网络！我们提出了单级训练算法将分类和重新确定位置这两个任务级联了起来。

总而言之，我们训练了非常深的目标检测网络(VGG16)它比RCNN快9倍，比SPPnet快3倍，在运行时，检测网络处理图像仅仅需要0.3秒你敢信？？哦，其实是不算图片生成待检测proposal目标的时间的啊！

最终我们取得了可喜可贺的成果，在PASCAL VOC2012上大了66%的精确度！比小弟RCNN的62%还精准还快你就说你怕不怕！

1.1R-CNN和SPPnet(常规套路先总结先人不足)

RCNN凭借深度卷积网络实现了突破性的检测精度，但同时也存在以下主要局限：

多阶段训练流程复杂

首先使用log损失函数微调ConvNet，接着用SVM替代softmax分类器来处理卷积特征，最后还需要额外训练边界框回归器。这种分阶段训练方式增加了系统复杂性。

训练过程资源消耗大

在SVM和边界框训练阶段，需要为每张图片的每个候选区域提取特征并存储到硬盘。当处理海量数据时，这种操作会带来巨大的存储和计算开销。

检测速度瓶颈明显

由于需要对每个候选区域单独提取特征，导致检测效率低下。这也正是Fast-RCNN借鉴SPPnet进行优化的关键点，通过特征共享机制显著提升了处理速度。

综上，目标检测速度慢的主要原因是传统的卷积网络需要对每个候选区域（proposal）进行独立的前向计算。考虑到一张图片可能生成上千个候选区域，这种重复计算效率极低。SPPnet（空间金字塔池化网络）巧妙地解决了这个问题，它通过共享计算显著提升了RCNN的效率。具体而言，SPPnet首先对整个图像进行一次卷积特征提取，生成全局特征图，然后将各个候选区域映射到这个特征图上，从而获得对应的特征向量。这种方法避免了重复的特征提取过程，大幅减少了计算时间。

关于候选区域映射到特征图的可行性问题，这里用一张示意图加以说明：

特征图以一种密集的方式表征空间特征！也就是说原图image和特征图确实是相互对应的，用映射的方式来从特征图中选取proposal是可行的！

原文中说SPPNet在测试阶段加速RCNN从10到100X的提升，在训练阶段叶至少提升了3倍之多

不过当然了，SPPNet必然也有它的缺点，(不然作者干嘛要写Fast—RCNN呢) ，比如说，它仍然是一个多级训练过程，包括提取特征，用log的损失函数微调，以及训练SVM分类器和bounding-box的回归问题，就是独立训练这几部分，然后组成一个大的网络，而且它的特征也是存储在硬盘上的，大量浪费空间了，和RCNN不同的是，这种空间金字塔池化层因为加入了池化的关系，它不能够很好的更新池化层之前的卷积神经网络的参数了，这样前面的网络得不到生长，准确性必然会受影响！

1.2贡献部分：

综上所述，Fast-RCNN通过创新性的训练算法，成功解决了RCNN和SPPnet的缺陷，在检测速度和准确率方面均实现了显著提升。其"Fast"的命名正是源于其在训练和测试阶段都展现了更快的处理速度。Fast-RCNN的核心优势可归纳为以下四点：

检测准确率更高（mAP提升）
采用单阶段训练流程，配合多任务损失函数
支持全网络参数更新
无需占用大量硬盘空间存储特征数据

在后续内容中，论文将重点围绕这四大优势展开详细阐述。

2 Fast R-CNN的结构以及训练方法

上图介绍了Fast-RCNN的网络结构，它接收整副图像和一系列的proposal作为输入，网络首先做的就是用一些卷积神经网络以及最大值池化层等对图片进行特征提取，然后对每一个proposal,利用感兴趣区域池化层从特征图

中提取出一个特征向量，每一个特征向量会被送进后续的全连接层，这个全连接层在末尾会产生两个分支，一个产生softmax来估计K个类别以及背景的概率(K+1个类别的softmax概率)，另外一个层对每一个类别输出四个

实值数据，这四个值会重新确定边界框的位置K，其实这里的四个点就是(x,y,w,h)参考点的位置以及长和宽，这四个参数足够确定一个边界框了！

2.1 The ROI pooling layer

ROI池化层通过最大值池化将任意大小的感兴趣区域特征图转换为固定尺寸H×W（例如7×7）。这里的H和W属于超参数，需要在训练前预先设定。超参数的选择通常通过验证集实验来确定，最终选择表现最佳的值进行固定后开始训练优化。

在本文中，ROI表示矩形窗口区域，每个ROI由四个参数(x,y,w,h)定义：(x,y)表示左上角基准点坐标，(w,h)则对应矩形框的宽度和高度。

ROI最大池化层实现尺寸转换的原理如下：假设原始proposal尺寸为h×w，按照h/H的高度比例和w/W的宽度比例进行划分，最终就能得到固定尺寸H×W的特征图。

2.2预训练网络的初始化

本研究采用三个预训练的ImageNet模型进行实验，每个模型均包含五个最大池化层和五至十三个卷积层。在将这些预训练网络迁移到ImageNet任务时，主要进行了以下三方面的结构改造：

将最后的池化层替换为固定尺寸为H×W的Roi池化层，以确保与后续全连接层的维度匹配；
移除原网络的softmax层和全连接层（原用于1000类分类），改为两个并行分支：一个用于K+1类分类的softmax全连接层，另一个用于输出对应类别的边界框回归结果；
调整网络输入结构，使其能够同时接收完整图像和对应的所有候选区域（proposal）作为输入。

2.3网络微调

Fast-RCNN的一个关键优势在于能够对整个网络的权重参数进行端到端的反向传播训练，这是SPPnet所不具备的。具体来说，SPPnet无法更新金字塔池化层之前的卷积网络参数。

究其原因，当反向传播到达金字塔池化层时效率会大幅降低，特别是当proposals来自不同图像时。虽然池化操作本身难以用连续函数表示（求导困难），但主要问题在于不同图像来源的proposals会导致反向求导效率低下。

由于每个RoI可能来自图像的不同区域（对应着很大的感受野，甚至可能是整张图像），前向传播时必须处理整张图像，导致训练输入数据量巨大。

作者通过特征图共享解决了这个问题。Fast-RCNN采用分层采样策略：假设需要R个proposals，首先采样N张图像，然后每张图像采样R/N个proposals。这样来自同一图像的proposals可以共享计算和内存资源。例如当N=2,R=128时，这种方法比从128张不同图像采样快128倍！

虽然这种方法可能导致来自同张图像的RoIs存在相关性，可能影响训练速度，但实际应用中并未造成显著影响。有趣的是，使用更少的SGD迭代次数就能获得优于RCNN的训练效果。

此外，作者还采用了一个技巧：将全连接层后的两个网络（softmax分类器和边界框回归器）进行联合优化，而非像RCNN那样分开逐一优化。

多任务损失

一个Fast-RCNN的网络有两个不同的输出层，一个输出离散概率分布,Ρ=(p0,......pk),overK+1个类别，和其他的网络类似，也是通过softmax来计算k+1个输出种类的概率，第二个输出的是边界框的回归偏置Tk=(tx,ty,tw,th),对

k个种类中的每一个类别都是如此，而且tk指定了空间尺度不变性的转换和对数空间的宽高的平移，对每一个proposal都是如此

　　每一个用于训练的Roi都有一个真实的类标记u和一个确切可靠的边界回归框v，我们使用多任务损失L来对分类和边界框进行联合优化训练：

在这个公式中：

代表的是真实类别的对数损失，很可靠，如果pu越小，那么logpu就会越趋向于负无穷，添加负号之后，就对应的越大！概率越小，惩罚越大，是损失函数的常规套路，

至于回归任务的损失函数就比较麻烦，介绍之前先说一个超参数λ，这个是训练之前指定的，表明分类和回归的重要性程度，本文中都是设置为1，损失函数肯定是有目标target和预测它们分别是：

边界框通过神经网络算出的参数：

人为标定的真实边界框的参数：

这样，边界框的的损失函数可以定义为：

而这个smoothL1函数的定义如下：

这样这个多级任务损失函数就定义完了，我知道你们肯定想看图像，我用wolframAlpha画出来了，好像其实和2次函数的图像没什么区别嘛，大家可以仔细考虑一下作者这样定义的意图。

作者说这样是一个稳健的L1损失，相对于L2损失而言它对离群的值并不敏感在RCNN和SPPnet中，因为回归训练是没有边界的，所以你必须要小心的设置学习率避免梯度爆炸，哈哈哈哈

Mini-batch sampling

在微调阶段，作者采用以下参数设置：每个mini-batch包含2幅图像，采用均匀随机采样方式，设置mini-batch大小为128，每幅图像采样64个RoI。从与真实边界框IoU≥0.5的RoI中选取25%作为前景样本（正例），此时u≥1；将与真实边界框IoU在[0.1,0.5)区间的RoI标记为背景样本（负例），此时u=0（无需标定）。

训练时，图像有50%概率进行随机水平翻转。该策略旨在通过数据增强提升模型鲁棒性，无需额外数据填充。这种正负样本生成机制与前文设计的损失函数形成协同优化，有效增强了网络的目标识别能力。

Back-propagation through Roi pooling layers

在Roi池化层的反向传播的计算，在解释说明反向传播的过程中，作者仅仅将N设置为1,也就是只取一个图片，但是作者说这样仅仅是方便说明，而且实际上N为几对这个解释都没影响，因为都很直觉。

在说明过程中，用Xi表示Roi池化层第i个激活输入，然后让Yrj表示第r个Roi区域的第j个输出，，然后Roi的池化层的计算公式是： $y_{rj}=x_{i*(r,j)}$ ,然后这个 $i*(r,j)=\arg max_{{i}'\in R(r,j)}$ , $R(r,j)$ 其实就是输入划分的子窗口

为了帮助大家更好地理解，我将用更通俗的方式重新解释这部分内容。

xi可能就是输入到Roi池化层的输入，这个没问题，没什么疑问，然后这个后面的一大串其实就是在解释最后输出的yi，一定是对应本子区域里面的最大的一个！举个例子：

就是这个池化过程的公式表示！看完大家应该可以对应起来，介绍完了公式部分，说一下如何在这个Roi池化层进行求导：

经过深入思考，我建议这样理解反向传播过程：从后往前推导时，左边对x的偏导实际上是经过池化层后的结果。因此需要向前寻找对y的偏导和池化层的偏导数，其中最复杂的部分就是池化层的导数计算。

具体来说，以图示为例：池化后的四个结果3、3、3、2需要与来自后一层的导数进行加权求和，再对所有Roi图像进行累加，最终得到我们要求的结果。作者特别强调Roi池化层的求导部分，是因为这个网络采用单级联结构，反向传播需要贯穿整个网络，所以必须在此明确其导数计算规则。

SGD hyper-parameters

随机梯度下降相关的超参数，用于softmax分类和边界回归的参数作者是用零均值，标准差是0.01到0.001的高斯分布进行初始化，偏置初始化为0,每一层的初始权值学习率为1,偏置学习率为2,然后全局的学习率设置为0.01

，而且学习率在前30k为0.01,后10k为0.001,，当遇到大的训练数据集的时候，SGD可能会迭代更多次，动量设置为0.9然后衰减参数设置为0.005

2.4尺度不变性

作者研究了两个实现尺度不变性的办法：

1 暴力法强制实现尺度不变性

2 通过使用图像金字塔实现尺度不变性

在暴力法实现中，不论是训练还是测试阶段，每一个图像被直接处理成预定义的的像素大小，网络必须从训练数据中直接学习尺度不变性的目标检测，而在多尺度方法中，它通过图像金字塔近似的为网络实现了尺度不变性，

在测试阶段，图像金字塔用来对每个proposal近似实现缩放标准化，而在多尺度训练阶段，作者随机的从缩放金字塔中采样一幅图像进行训练，这也可以算是一种数据扩充形式，作者本人只在小规模网络下实现了多尺度

金字塔放缩训练，因为GPU的显存限制。

3 Fast R-CNN的网络检测

一旦Fast-RCNN网络微调完成，那么检测就会比前向计算耗时少很多了，网络接收一张图像或者图像金字塔(图像金字塔会把一系列的图片进行编码)和R个感兴趣的proposal作为输入，从而进行打分，对每一个用于测试的ROi

前向传输会输出该类别的先验概率分布和边界框的回归参数，而且作者通过估计概率给每一个类别k设置了检测置信率！

3.1 Truncated SVD for faster detection(截断奇异值分解)

可能Truncated翻译成截断有点奇怪，但是考虑下作者这个SVD分解的思想好像确实有那么点截断的意思

对于整副图像的分类，用在计算全连接层的时间和卷积层相比是很小的，但是，如果对于ROi的数量检测和处理来说，全连接层几乎又占据了整个前向传播接近一半的时间，所以，作者针对比较大的全连接层的网络设计了

一种加速的办法，那就是截断奇异值分解！

　　如果不是很了解奇异值分解的建议阅读奇异值分解的相关资料，这里只介绍作者加速的思想，其实一开始我也弄不懂这个加速到底是怎么做到的，作者说了，利用下述公式：

，可以将计算的复杂度

从从u×v变成t(u+v)，可能会有读者和我有一样的疑问，如果将u×v的矩阵分解成u×t，t×t和t×v，那最后乘起来不还是u×v吗？你这样有什么用呢，直到我后来自己动手画了一下：

可以看到网络的参数确实是发生了变化，如果此时t的值会远远小于min(u,v)的最小值的话，那么这时候用这种奇异值分解的办法便可以特别好的简化计算过程，节省很多的前向计算的时间！

至此，作者的核心观点已基本阐述完毕。

Fast R-CNN的

此篇博客写作思路是一边翻译英文原文一边总结博主在阅读过程中遇到的问题及一些思考，因为博主本人阅读英文论文水平不高，所以还请大家在看此篇博客的过程中带着批判的眼神阅读！小墨镜带好，有什么不对的地方请在留言指出，大家一起讨论，快乐的搞事情！

Fast R-CNN

Ross Girshick

Microsoft Research

摘要：

本文提出了一种可用于目标检测的基于区域的快速卷积神经网络方法，Fast-RCNN 是对以前使用深度卷积网络进行目标检测工作的一种有效增强！Fast-RCNN有几处牛逼的创新点，可以在大大减少训练和测试时间的同时增加训练精确度，Fast-RCNN训练非常深VGG16的网络，速度比RCNN快9倍，测试速度更是达到了惊人的213倍，在PASCAL VOC2012上实现了比较高的准确度！和SPPnet做比较，我们的Fast-RCNN训练速度达3倍，测试速度达10倍!简直是伟大的突破！

1 介绍

本文，我们精简了当前目标检测所用的卷积神经网络！我们提出了单级训练算法将分类和重新确定位置这两个任务级联了起来。

最终我们取得了可喜可贺的成果，在PASCAL VOC2012上大了66%的精确度！比小弟RCNN的62%还精准还快你就说你怕不怕！

1.1R-CNN和SPPnet(常规套路先总结先人不足)

RCNN利用深度卷积网络实现了激动人心的准确率，当然了，它必须存在一些不足：

1 训练是一个多级级联过程

RCNN 微调了ConvNet 在目标检测上使用了log对数损失，然后它使用SVM来分类ConvNet的特征，这样SVM取代了softmax分类器而扮演着目标检测的角色，然后第三级，学习目标所在位置的框框！

2训练在空间和时间上的花费都是昂贵的

对SVM和边界框的训练来说，每一个图片的每一个待检测目标框框都需要提取特征并且写入到硬盘里吗，对于非常深得硬盘来说，这波操作是致命的！

3目标检测太慢了

就像上面说的，每个图片的每个proposal都要被提取特征，这就是RCNN最为致命的地方！所以其实Fast-RCNN的改进主要就是在这个地方借鉴了SPPnet，然后大大节省了时间

综上，目标检测之所以慢，就是因为卷积网络的前向运算对于每个proposal都会计算一次(一张图片可能会产生1k个proposal你想下多逆天！),没有共享计算啊亲，所以SPPnet(空间金字塔池化网络)提出了一个利用共享计算加速RCNN的方法。它只在整张图上利用卷积神经网络进行特征提取，得到关于整张图的特征图！然后利用proposal在图片的区域，进行一次映射，映射到特征图上然后进行proposal特征向量的生成，再送入后续网络，这样的方法省略了大量的重复提取特征的时间，你说能不节省吗！

可能会有同学质疑这种映射操作的可行性！我上图证明一下，(图来自其他博主):

特征图以一种密集的方式表征空间特征！也就是说原图image和特征图确实是相互对应的，用映射的方式来从特征图中选取proposal是可行的！

原文中说SPPNet在测试阶段加速RCNN从10到100X的提升，在训练阶段叶至少提升了3倍之多

1.2贡献部分：

所以总结一下，Fast-RCNN提出了一种新的训练算法有效的修补了RCNN和SPPnet的不足之处，在速度和准确性上面都有所提高，我们之所以称之为Fast-RCNN是因为它相比较而言不论是训练还是测试都更快速，Fast-

RCNN有以下几个优点：

1更高的检测准确率(mAP)

2训练是单级的或者说单通道的，并且使用了多级任务损失

3训练可以更新到整个网络！

4 没有硬盘存储大量特征的需求

接下来的文章自然是主要强调以上四个优点啦！

2 Fast-RCNN的结构以及训练方法

实值数据，这四个值会重新确定边界框的位置K，其实这里的四个点就是(x,y,w,h)参考点的位置以及长和宽，这四个参数足够确定一个边界框了！

2.1 The ROI pooling layer

ROI pooling layer 使用最大值池化转换任意的感兴趣区域的特征图到某个固定的大小HxW(比如说7x7),这里的H和W就是传说中的超参数，其实超参数是很容易理解的，在训练之前你就得固定好它，你选取超参数的方法

可能就是你不断的在验证集上做实验，挑表现最好的固定下来，再开始训练优化，本文中，ROI是一个矩形窗口，而且每一个Roi都是由上文中所说的四个参数决定的(x,y,w,h),其中(x,y)是定义在左上角的参照点而这个(h,w)是

对应的矩形框长度和宽度。

Roi max pooling层之所以能够将任意的proposal转化乘固定的HxW区域，其原理是这样的，比如说proposal是h×w这样的，然后你可以按照h/H的高度，w/W的宽度进行切割，那么得到的自然是固定的H×W的参数结果啦～

2.2预训练网络的初始化

本文的作者使用了三个预训练的ImageNet进行实验，每一个都有五个最大池化层和五到十三个的卷积层组成，当这些预训练的网络转化成ImageNet的时候，通常都经历一下三方面的转化：

1首先，最后一层的池化层被Roi池化层取代，而且Roi池化的参数固定为H×W，目的就是为了和后续的全连接层进行匹配

2 网络最后的全连接层和softmax层(原网络训练的是1000类的分类)被替代为两个不同的全连接网络，一个是能够对K+1个种类进行分类的softmax的全连接层，另外是种类对应的边界框(bounding-box)的回归网络

3最后，网络被修改为接收两个输入，分别是整副图像和图像对应的全部的proposal

2.3网络微调

对于Fast-RCNN来说，对整个网络的权重参数进行反向传播训练是Fast-RCNN网络独有的能力！SPPnet网络就不能够更新金字塔池化层前面的卷积网络的参数哦！

为啥呢？为啥SPPnet金字塔池化层之前的网络参数就不能够有效的更新？原文中说了因为反向传播走到金字塔池化层的时候层的效率非常的低当proposal来自于不同的图片的时候，PS:好像在我的感觉里池化这种操作

确实不是很容易能够用函数式进行表示，就算表示出来了，那也肯定不是连续函数吧，也会很难求导，但这都不是主要的，主要原因是来自于不同的图片的proposal就会让反向求导操作的效率十分低下！

因为每一个Roi都有可能从图像的不同地方获取，这样它就对应着一个十分大的接收场(我把它理解为定义域),甚至有可能是来自于整副图像，所以前向传输计算过程中，必须要处理整副图像，这个训练输入是十分大的！

那作者是怎么解决这个问题的呢？作者充分利用训练过程中的特征图共享的有点，在Fast-RCNN的训练过程中，SGD的mini-batch是分层次的采样，假设一共寻要R个proposal，那么我们首先采样N张图片，然后再

每张图片采样R/N个proposal，然后让来自于同一张图片的的proposal共享计算和内存在前向和后向传播过程中！作者举了个例子，当使用N=2,R=128的时候，利用这种方法训练速度是采样来自128张不同图片的Roi的速度

的128倍！，真的是快的一逼啊！

　　但是这样也可能会有一些小问题，比如说，来自于同一张图片的Roi可能具有很大的相关性，会严重托慢训练速度，但是这个问题在作者的训练过程中没有造成什么严重的后果，然后作者使用更少的SGD迭代次数也

得到了比RCNN更好的训练结果。

　　除了分层采样之外，作者还有一个小trick，那就是将网络全连接层后面的两个网络进行了联合优化，也就是将sotfmax分类器和边界框回归网络进行联合优化，而不是分开来softmax Classficaiton ，SVM，边界框回归器

一个个的挨个优化！

多任务损失

k个种类中的每一个类别都是如此，而且tk指定了空间尺度不变性的转换和对数空间的宽高的平移，对每一个proposal都是如此

　　每一个用于训练的Roi都有一个真实的类标记u和一个确切可靠的边界回归框v，我们使用多任务损失L来对分类和边界框进行联合优化训练：

在这个公式中：

边界框通过神经网络算出的参数：

人为标定的真实边界框的参数：

这样，边界框的的损失函数可以定义为：

而这个smoothL1函数的定义如下：

Mini-batch sampling

在微调过程中，作者将mini-batch中N的大小设置为2,也就是一个小批量数据采样选择两幅图像，选择均匀随机分布，然后设置mini-batch自身的大小是128,每幅图像采样64个Roi。然后作者从那些和真实边界框标记重叠

至少0.5的Roi中选择了25%，然后给这些Roi一个前景标记，也就是训练过程中的正例，此时u肯定是大于等于1的，剩下那些和真实边界框重叠率在[0.1,0.5)的，我们将它的标记设置为背景，此时u=0(因为不需要进行标定)

在训练过程中图像被反转的概率是0.5,没有其他的数据进行填充（这一段标记了正例反例，而且加入了图像反转增加网络的鲁棒性，是在训练网络对目标的辨识程度，这个地方和前面的损失函数部分好像让人不知所云？？）

Back-propagation through Roi pooling layers

好像这样说明读者读了肯定是一头雾水？？拜托你这都写了些什么呢，我用我自己的理解给大家解释下

就是这个池化过程的公式表示！看完大家应该可以对应起来，介绍完了公式部分，说一下如何在这个Roi池化层进行求导：

这个公式其实我也思索了良久，大家可以这么考虑，反向传播嘛，大家都知道从后往前，也就是说左边对x的偏导是越过了这个池化层的结果，那肯定要往前找对y的偏导和池化层的偏导数，而最难懂的就是这个池化层

的导数部分，按照公式的直观理解，拿上面的图举例子就是池化后的四个结果3,3,3,2和它对应的来自后面一层的导数加权求和，再对所有的Roi图像求和，就是最终我们要求得的结果！作者这里为什么要说这个Roi池化

层的求导部分，是因为作者说了这个网络结构是一个单级联的，反向求导可以贯穿整个网络，所以必须在这个地方定义出它的导数求导规则才行！

SGD hyper-parameters

，而且学习率在前30k为0.01,后10k为0.001,，当遇到大的训练数据集的时候，SGD可能会迭代更多次，动量设置为0.9然后衰减参数设置为0.005

2.4尺度不变性

作者研究了两个实现尺度不变性的办法：

1 暴力法强制实现尺度不变性

2 通过使用图像金字塔实现尺度不变性

金字塔放缩训练，因为GPU的显存限制。

3Fast-RCNN的网络检测

前向传输会输出该类别的先验概率分布和边界框的回归参数，而且作者通过估计概率给每一个类别k设置了检测置信率！

3.1 Truncated SVD for faster detection(截断奇异值分解)
可能Truncated翻译成截断有点奇怪，但是考虑下作者这个SVD分解的思想好像确实有那么点截断的意思

一种加速的办法，那就是截断奇异值分解！

，可以将计算的复杂度，从从u×v变成t(u+v)，可能会有读者和我有一样的疑问，如果将u×v的矩阵分解成u×t，t×t和t×v，那最后乘起来不还是u×v吗？你这样有什么用呢，直到我后来自己动手画了一下：

4 Fast R-CNN的优势总结

写到这里作者的主要思想基本上已经都翻译完了，Fast-RCNN的进步之处在于：

通过取消每个提案的重复计算过程，仅需计算一次特征图，然后利用映射关系直接提取提案特征向量。这一改进既避免了冗余计算，又显著节省了硬盘存储时间，是受SPPnet启发对RCNN的重要优化。
针对SPPnet多级联网络模块分开训练的不足，作者将其改进为单级联网络结构。通过引入最大值提案池化层并推导其反向传播导数计算方法，实现了整个网络的端到端优化。
借鉴SPPnet的空间金字塔池化模型，该网络不再限制输入尺寸。无论特征图大小如何，经过空间金字塔池化层后都能输出固定维度的特征，确保与后续全连接层的完美兼容。
在全连接层优化方面，作者采用SVD奇异值分解方法，大幅减少了需要学习的参数数量。特别是在大型网络结构中，这一改进显著降低了计算复杂度，提升了运行效率。

在阅读Fast R-CNN后，我整理了一些心得体会。如有理解不当之处，欢迎留言指正，我会及时修正。

查看全文

http://www.dtcms.com/a/353785.html