有了美丽的封面， 写的兴致又来了。 我们在“深度学习名校课程大全”里面介绍了深度学习的课程。 在“人工智能深度学习人物关系[全]”里面介绍了部分深度学习的人物。 这里简要概述下下部分图像目标检测深度学习模型。
前言
有一些图像分割的背景知识也很有意思，简单列下， 概述下来，主要是五大任务， 六大数据集， 七大牛人组，一个效果评估。
五大图像处理任务
1. 图像分类
2. 分类和定位
3. 目标物体检测
4. 语义分割
一下子从框的世界进入了像素点的世界。
5. 实例分割
六大图像数据库
1.PASCAL Visual Object Classes (VOC) 挑战
人、车、自行车、公交车、飞机、羊、牛、桌等20大类
2.MS COCO: Microsoft Common Object in Context
80大类， 多目标
3.ImageNet Object Detection: ILSVRC DET 任务
200类别，578,482 图片
4.Oxford-IIIT Pet Dataset
37 类别，每个类别 200 图片
5.Cityscapes Dataset
30 类别，25,000 + 真实开车场景图片
6.ADE20K Dataset
150+ 类别，22,000 + 普通场景图片
七大牛人组
1.Navneet Dalal 和 Bill Triggs (INRIA)
两人提出了Histogram of Gradient (HOG)获得2015年的 Longuet-Higgins Prize大奖
2.Pedro Felipe Felzenszwalb
和学生Ross Girshick一起发明了DPM，深化了HOG.
3.Ross Girshick
Felzenszwalb的高徒，RBG大神、发明了R-CNN、Mask R-CNN。Ross目前在Facebook人工智能研究院 FAIR。
4.Koen van de Sande
提出Selective Search的大神。
5.Jitendra Malik
去噪模型Perona-Malik扩散和聚类分割里面的归一化分割Normalized Cut的发明人，RBG大神的博士后导师，鼓励RBG引入CNN做目标检测，R-CNN发明人之一。
6. Pietro Perona去噪模型Perona-Malik扩散的发明人， 李飞飞的博士导师， 2013获得Longuet-Higgins Prize。 和高徒Piotr Dollar一起提出Fast Feature Pyramids的神器。他的另外一个高徒Stefano Soatto搞出了 Structure From Motion SFM，视觉运动信息的多幅二维图像序列估计三维结构的技术。 他弟子Piotr Dollar目前在FAIR。
7.何凯明
ResNet，SPP， Mask-CNN发明人，目前在FAIR。
一个效果评估mAP（mean average precision）借用了文档检索里面的标准， 假设目标物体的预测在所有的图像中都进行预测， 在每个图像上计算准确和召回。 但是最后计算每个目标物体的AP的时候， 仅仅选用相关的图像，进行平均average， 最后计算mAP的时候再求平均mean。 是一个奇怪的名字，却是一个蛮直观的评价！
R-CNN系列
R-CNN的横空出世， 随后经过一系列改进， 走到了Mask R-CNN和Mask^X R-CNN的神奇境界。
CNN结构上从AlexNet过渡到ResNet， 中间也受到Overfeat和SPPNet的影响深远！
一， R-CNN的前世
2013年之前， 基本由RBG和他导师的DPM主导， 当然离不开SS和SVM的应用，和后续Box Regression的修正。
1. Histogram of Gradient (HOG) 特征
8×8像素框内计算方向梯度直方图
2. HOG Pyramid
特征金字塔，对于不同大小的物体进行适应。
3. HOG特征 -> SVM分类
4. DPM模型 Deformable Part Model
加组件组合的HOG特征，组件间计算弹性得分，优化可变形参数。
如果没有弹性距离，就是BoW (Bag of Word)模型，问题很大， 位置全部丢失:
n个组件的DPM计算流程
5. Selective Search 思想
首先， 过分割后基于颜色纹理等相似度合并，
然后，过分割、分层合并、建议区域排序
6. 基于Selective Search + DPM/HoG + SVM的物体识别
7. AlexNet的图像分类
2012年AlexNet赢得LSVRC的ImageNet分类竞赛。深度CNN结构用来图像特征提取。
8. bounding-box regression 框回归
BBR 在DPM时代就和SVM分类结合，一般直接使用线性回归，或者和SVR结合。
二， R-CNN的出世
这个工作是RBG在Malik那里读博士后的产出。 这个工作的影响巨大！
1.1 R-CNN的本质， 用深度CNN网络取代了HoG/DPM的特征提取！
1.2 R-CNN依赖分类预训练的特征
1.3 通过bounding-box regression改进效果，对于SS推荐的， 经过SVM分类的结果进行修正。
这样，我们就得到了最后RNN的框架，我们看到区域推荐、SVM和Bound Box Regression都是成熟的技术的整合：
R-CNN优点：
1. 效果比DPM方法大幅度提高
2. 开启了CNN网络的目标检测应用
3. 引入了BBR和分类结合的思想
4. 定义了RoI， 基于推荐区域的思想
R-CNN问题：
不是端到端的模型，依赖SS和SVM！
计算速度相当慢！
对于过大过小的东西，效果很不好。
譬如，对于长凳， 或者眼镜等等。
三，MR-CNN的改进
Multi-Region的提出， 开始对Box进一步做文章， 相当于对Box进一步做增强，希望改进增强后的效果，主要改善了部分重叠交叉的情况。
但是特征拼接后使得空间变大，再使用SVM处理， 效果和R-CNN基本类似。
MR-CNN改进有限！
四， Overfeat的改进
LeCun的Overfeat是个端到端的模型，直接抛弃了SVM，并且把BBR整合一起使用FCN（Fully-Connected Net）搞定， 解决了后面一端的问题（取代了SVM和BBR）。
另外， 也直接抛弃了SS，采用CNN上滑动窗口来进行框推荐，搞定前面一端。
然后直接根据滑动窗口的不准确的判断， 进行Box 回归（BR）来进行准确定位。
并且在计算上做了三大优化： 第一， 先进行CNN再滑动窗口， 而不是先滑动窗口再进行CNN计算。 把窗口滑动放到CNN之后进行。 避免重复的特征计算。
第二， 多类别并行计算框架， 进一步减少CNN特征计算因为没有找到特定类别而浪费。
第三， 把FCN直接用CNN网络取代， 计算量大大减少。怎么做到的呢？ 结合上面两点， 利用每个类别实现一个0-1的CNN网络， 然后所有类别并行处理。
还做了一大改进， 考虑了多尺度衍生：
Overfeat优点：
1. 端到端的模型
2. 回归和分类结合的计算模型
3. 首次将区域计算后移， 极大节省计算量， 优化速度
4. 有多尺度考量，试图优化极大极小目标问题
Overfeat问题：
1. 取消区域推荐， 依赖窗口滑动和BR效果后的推荐效果一般。
2. 定位准确， 但是对于重叠目标物体的情况，效果很差。
五， SPPNet的改进
这个工作是何凯明在孙剑指导下， 微软的工作。 后来孙剑去了旷视科技， 而何凯明去了Facebook人工智能实验室FAIR。 前面， 我们提到R-CNN和Overfeat都存在部分多尺度，重叠效果的问题。 某种意义上， 应对了HoG特征， 这样对于物体来说类似BoW模型， 我们知道DPM里面，是带有组件空间分布的弹性得分的， 另外也有HoG Pyramid的思想。 如何把Pyramid思想和空间限制得分加入改善多尺度和重叠的效果呢？ MR-CNN里面尝试了区域增强， Overfeat里面尝试了多尺度输入。 但是效果都一般。 这里我们介绍另外一个技术Spatial Pyramid Matching, SPM。把空间和Pyramid结合的思想。
1. SPM
把BoW修改金字塔Pyramid方式进行空间限制，做特征提取。
2. SPM用在CNN特征之后，R-CNN里面 SVM分类之前。
3. 基于CNN的Pooling技术来实现SPM， 通过不同尺度的Pooling技术很容易就实现了CNN特征的SPM特征。
4. 先特征后区域的处理， 某种意义上取代了多尺度输入，或者特征增强。
和R-CNN相比做到了先特征后区域， 和Overfeat相比自带Multi-Scale。
于是SPPNet（Spatial Pyramid Pooling Net）很空出世！
SPPNet优点:
1. 提取SPP的概念， 把CNN的Pooling用的出神入化， 取代了HoG Pyramid的改进。 对于大小尺度的物体识别有改进。
2. 进一步强调了CNN特征计算前移， 区域处理后移的思想， 极大节省计算量。
SPPNet缺点:
1. 依然不是端到端的模型
2. 过于注重CNN特征的分离， CNN特征提取没有联动调参数！
Fast R-CNN的改进
RBG从后来去了微软，在微软了解了何凯明的SPPNet工作。 所以Fast R-CNN 基本和SPPNet类似， 但是进一步联动改进！全部打通区域推荐之后到目标识别后一端！而且效果较好！
基于SPPNet, Fast R-CNN做了两大改进：
一， 简化SPP成为RoI Pooling， 只用了最细分的SPPNet。 把RoI区域变成了RoI Pooling， 这就是RoI Pooling的思想的来源。 Pyramid上层更粗的特征， 可以依赖FCN进行整合学习。
二， CNN特征网络联动调参数！
这样， Softmax分类误差和线性回归误差叠加的误差， 可以反传通过FCN， ROI Pooling和ConvNet层。
Fast R-CNN优点:
1. 吸收了SPPNet和R-CNN的精华，极大的打通并且改进了从区域推荐到目标检测一端。
2. RoI Pooling技术横空出世， 极大的发挥了区域计算后移的优势， 加快了训练速度。
3. Log 损失和Smooth L1的损失下的FCN、RoI Pooling、ConvNet三层联动调参数成熟， 并且带来效果上的提升。
4. 并且应用VGG16，取代AlexNet作为CNN网络模型
Fast R-CNN缺点:
1. 依然没有实现端到端的模型，对SS区域推荐依赖严重。
Faster R-CNN的改进
SPPNet和Fast R-CNN都面临着并非端到端模型的困惑， 那么RBG、何凯明和孙剑， 微软的3位牛人合作开启了端到端模型的开发。
提出RPN（Region Proposal Net）取代了SS区域推荐。 RPN有点类似Overfeat的ConvNet的滑动窗口， 但是加入了Anchor Box的设计。
在Overfeat的ConvNet上的滑动窗口， 加上Multi-Scale的图像输入设计， 编程了带Anchor Box推荐的区域Pyramid。 这种机制， 某种意义上是带了先验的Attention机制。
这样 RPN的Anchor和Pyramid和定位都可以是参数学习， 例如：9 anchors x 2 scores x width x height。
如果在考虑ROI Pooling对推荐区域的修正作为新的RPN，就会带来ROI Pooling的迭代：
所以最初， RPN的损失是单独计算进行参数学习的。
但是后来, RPN的误差也全部整合处理了， 一个端到端的模型诞生，并且具有较好的区域推荐、特征Pyramid，和Box回归的效果保证。
Faster R-CNN优点:
1. 和Overfeat一样是一个端到端的模型， 但是集成了以前图像处理里面的思想： 区域推荐， 特征Pyramid和Box回归。
2. 较好的ConvNet特征共享， 效率更高
3. 提出了RPN网络，并且整合后的效果和Fast R-CNN一样
Faster R-CNN缺点:
1. 依然难以做到实时高效
2. 功能上没有进入实例分割阶段。
小结
我们发现， 单纯的端到端ConvNet模型的Overfeat很难达到较好的效果。 如何融合图像处理经典思想里面的区域推荐， 特征金字塔， 和框回归，还是非常有必要。 而Faster R-CNN做到了这些。 这个过程中一直伴随着性能的提升， 其中重要一步就是如何让特征计算不要重复，做到一次计算。 如何进一步提高速度， 和增强功能， 是后续网络的要改进的地方。 例如， 我们发现ConvNet的计算在Faster R-CNN已经达到很高的共享， 但是ROI之后依然有ConvNet的计算， 如何进一步共享这部分计算呢？ 请看下期。
