weixin_38650871的博客

一、sigmoid函数1、输出范围为(0,1)，输出范围有限，优化稳定，可以作用于输出层。2、连续函数，求导方便。f(x)=11+e−xf′(x)=f(x)[1−f(x)]f(x)= \frac{1}{1+e^{-x}}\\f'(x) = f(x)[1-f(x)]f(x)=1+e−x1​f′(x)=f(x)[1−f(x)]3、当输入变量是绝对值比较大的正负数时会出现饱和现象，函数对输入的微小改变变得不敏感。在反向传播时当梯度接近于零时，权重基本不会更新，很容易出现梯度消失的情况，从而网络无法更