李宏毅2020机器学习课程笔记（二）- 深度学习

相关专题： 李宏毅2020机器学习资料汇总
本系列笔记：

1. 李宏毅2020机器学习课程笔记（一）- 分类与回归
2. 李宏毅2020机器学习课程笔记（二）- 深度学习
3. 李宏毅2020机器学习课程笔记（三）- CNN、半监督、RNN

3. Deep Learning

Brief Introduction of Deep Learning（P12）

首先，李宏毅老师介绍了深度学习的发展历程，以及在Google上搜索Deep Learning的结果。

实际上，早在上个世纪，深度学习就已经以multi-layer perceptron（多层感知机）的名字出现了，然而，它的效果不太好。目前，得益于GPU可以并行地完成矩阵运算，Deep Learning的训练速度有了大幅度提升。

然后，李宏毅老师介绍了深度学习中的“机器学习三步骤”。

其中，用实际数字讲解了模型的运作过程，以手写数字图像识别举例说明。

在深度学习中，模型集合也可指网络结构，这里以全连接前向传播网络（Fully Connect Feedforward Network）为例：

1. 定义模型集合
   
   深度学习的函数集合可以理解成Logistic Regression的套娃