神经网络与深度学习 第四周

（笔记参考b站吴恩达深度学习、 Dive into Deep Learning以及博主学校课程ppt）

基本卷积神经网络

AlexNet

网络一共有8层可学习层——5层卷积层和3层全连接层：

  相比于之前作品，其改进为：池化层均采用最大池化，选用ReLU作为非线性环节激活函数，网络规模扩大，参数数量接近6000万，出现“多个卷积层+一个池化层”的结构，随网络深入，宽、高衰减，通道数增加。
下图是网络说明：左侧：连接数 右侧：参数

VGG-16

网络说明
改进:网络规模进一步增大，参数数量约为1.38亿；由于各卷积层、池化层的超参数基本相同，整体结构呈现出规整的特点。
普遍规律：随网络深入，高和宽衰减，通道数增多。

残差网络

梯度消失问题


残差网络的构建
1.卷积层主要有3×3的过滤器，并遵循两个简单的设计规则:①对输出特征图的尺寸相同的各层，都有相同数量的过滤器; ②如果特征图的大小减半，那么过滤器的数量就增加一倍，以保证每一层的时间复杂度相同。
2.ResNet模型比VGG网络更少的过滤器和更低的复杂性。ResNet具有34层的权重层，有36亿FLOPs，只是VGG-19（19.6亿FLOPs）的18%

常用数据集
 &emspMNIST：数据集主要由一些手 写数字的图片和相应的标签组成，图片一共有 10 类，分别对应从 0~9
 &emspPASCAL VOC：目标分类(识别)、检测、分割最常用的数据集之一
 &emspMS COCO：数据集以scene understanding为目标，主要从复杂的日常场景中截取
  ImageNet：始于2009年，李飞飞与Google的合作：“ImageNet: A Large-Scale Hierarchical Image Database”

深度学习视觉应用

算法评估相关概念
TP: 被正确地划分为正例的个数，即实际为正例且被分类器划分为正例的实例数
FP: 被错误地划分为正例的个数，即实际为负例但被分类器划分为正例的实例数
FN:被错误地划分为负例的个数，即实际为正例但被分类器划分为负例的实例数
TN: 被正确地划分为负例的个数，即实际为负例且被分类器划分为负例的实例数
P(精确率）： TP/（TP+FP）
R(召回率）： TP/(TP+FN)。召回率越高，准确度越低

目标检测与YOLO

目标检测预备知识

  目标检测问题:目标检测是在给定的图片中精确找到物体所在位置，并标注出物体的类别。物体的尺寸变化范围很大，摆放物体的角度，姿态不定，而且可以出现在图片的任何地方，并且物体还可以是多个类别。

  目标检测基本原理：很多时候图像里有多个我们感兴趣的目标，我们不仅想知道它们的类别，还想得到它们在图像中的具体位置。在计算机视觉里，我们将这类任务称为目标检测（object detection）或物体检测。
  边界框：在目标检测里，我们通常使用边界框（bounding box）来描述目标位置。边界框是一个矩形框，可以由矩形左上角的x和y轴坐标与右下角的x和y轴坐标确定。我们根据下面的图的坐标信息来定义图中狗和猫的边界框。图中的坐标原点在图像的左上角，原点往右和往下分别为x轴和y轴的
正方向。
  锚框：目标检测算法通常会在输入图像中采样大量的区域，然后判断这些区域中是否包含我们感兴趣的目标，并调整区域边缘从而更准确地预测目标的真实边界框（ground-truth bounding box）。
YOLO: You Only Look Once参考：https://zhuanlan.zhihu.com/p/183261974
滑动窗口：
原理示意：滑动窗口的改进：1. 一般图片中，大多数位置都不存在目标。2. 可以确定那些更有可能出现目标的位置，再有针对性的用CNN进行检测——两步法（Region Proposal）3.两步法依然很费时！ 4.进一步减少出现目标的位置，而且将目标分类检测和定位问题合在一个网络里——一步法（YOLO)
一步法基本思想

YOLO网络结构


  网络结构包含24个卷积层和2个全连接层；其中前20个卷积层用来做预训练，后面4个是随机初始化的卷积层，和2个全连接层。
YOLO网络输入:YOLO v1在PASCAL VOC数据集上进行的训练，因此输入图片为448 × 448 × 3。实际中如为其它尺寸，需要resize或切割成要求尺寸。
YOLO模型处理：𝟕 × 𝟕网格划分将图片分割为 𝑆2个grid(𝑆 = 7)，每个grid cell的大小都是相等的;每个格子都可以检测是否包含目标;YOLO v1中，每个格子只能检测一种物体（但可以不同大小）。
YOLO网络输出:输出是一个7 × 7 × 30的张量。对应7 × 7个cell;每个cell对应2个包围框(bounding
box, bb)，预测不同大小和宽高比，对应检测不同目标。每个bb有5个分量，分别是物体的中心位置(𝑥, 𝑦)和它的高(ℎ) 和宽 (𝑤) ，以及这次预测的置信度。