Dive into deep learning(06)[动手学深度学习]———————第六章，现代卷积神经网络

Dive into deep learning(06)[动手学深度学习]———————第六章，现代卷积神经网络

前言：大半个月没跟新了…视频还有在看的，但进度有点感人，回家摆烂了十多天，仔细想了一下之后要走哪些路，做了一些简单的规划，感觉考研的性价比应该是最高的。但其实自己对算法什么的好像并没有什么多大的兴趣，更关注的是应用本身，而不是偏向于算法理论类的地方，同时也学了一下Mysql，给自己多点选择.

本章摘要： 传统的机器学习更加关注的是特征工程方面，即人为的寻求一个良好的特征函数，做好特征提取，再把提取过后的数据传到模型里，得到结果。
而深度学习则认为，特征函数也是可以学习的，中间的隐藏层就是特征函数求取。计算机视觉研究人员相信，从对最终模型精度的影响来说，更大或更干净的数据集、或是稍微改进的特征提取，比任何学习算法带来的进步要大得多。（不是，我很难不认同这个观点）

推进深度学习的方面有两个原因，一个是数据集的变大(image net)，还有一个是硬件的提升（gpu)。

1、深度卷积神经网络（AlexNet）(alexnet)

AlexNet的架构与LeNet相似，但使用了更多的卷积层和更多的参数来拟合大规模的ImageNet数据集。
今天，AlexNet已经被更有效的架构所超越，但它是从浅层网络到深层网络的关键一步。
尽管AlexNet的代码只比LeNet多出几行，但学术界花了很多年才接受深度学习这一概念，并应用其出色的实验结果。这也是由于缺乏有效的计算工具。
Dropout、ReLU和预处理是提升计算机视