深度学习——引子note

深度学习

深度学习传统到现在的推动因素：
理论：CNN，RNN，ReLU(非线性激励函数)
数据：ImageNet，LFW
硬件：Nvidia CUDA+GPU

应用特点

优点：
学习能力强
覆盖范围广，适应性好
可移植性好
缺点：
计算量大，便携性差
硬件需求高
模型设计复杂
有可能被"hack"
长于计算，弱于算计

框架比较

TensorFlow

统一的模型标准，方便交流
维持地位：TPU，Google Cloud，future market

安装： ubuntu: pip install tensorflow
for GPU: pip install tensorflow-gpu

TF 运算

tf.unique
tf.exp

基本调试
迭代次数，learning rate，模型结构，误差对比

基本深度学习概念

神经元


卷积核
图像处理基本算子
卷积核就是图像处理时，给定输入图像，输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素，其中权值由一个函数定义，这个函数称为卷积核。

NN，ANN，DNN，CNN，RNN
NN-ANN-DNN-FC

生成

• 根据原始图片得到相应特征图
• 生成注意力图
• 生成分割图
• 生成艺术风格