7/21/1

深度学习的LAYER一般添加激活函数，激活函数的目的是让网络具有非线性特征，线性函数就像白开水一样的生活，将会影响稳定期的输出结果，所以需要在每个层中加入一些激活函数，激活函数作用就是使网络具有非线性特征，其次是激活函数使输出值在一个范围内以便计算；S型函数，rolu函数，用来求激活函数的偏导。