introduction of deep learning

深度学习的发展历史：

deep learning也需要三个步骤，如下图所示：

第一步：定义函数集，在这里的函数集就是neural network,我们都是会定义一个网络结构，当权重没有确定时，该网络结构就对应了一个函数集。

第二步：判断函数的好坏程度，利用损失函数来判断

第三步：找到一个最好的函数，根据梯度下降法更新权重，利用损失函数判定权重对应的网络的好坏程度。

universality theorem原理说明了有足够的隐层单元可以学到任意一个连续的函数。