深度学习总体介绍笔记

传统机器学习对比深度学习：
传统机器学习：
数据预处理：归一化，降维，去噪
特征提取：图像：LBP\HOG\STFT，语音：MFCC\小波\word2vec
选择分类器：SVM、决策树随机森林、贝叶斯网络、线性回归、聚类、EM
深度学习：
数据准备：数据、label
设计模型：CNN\RNN\CNN+RNN
训练：调整结构、损失函数、训练参数

深度学习推动因素：
理论：CNN、RNN、ReLU
数据：ImageNet、LFW
硬件：Nvidia CUDA + GPU

深度学习优点：
学习能力强
覆盖范围广
适应性好
可移植性好
如一套图像模型参数通过微调便可适用于物品分类、目标检测、人脸计算、场景识别、生成图片。

深度学习缺点：
计算量大，便携性差
硬件需求高，模型设计复杂
有可能被“hack”
长于计算，弱于算计