一, Sigmoid 激活函数
公式:Sigmoid 激活函数可以说是最经典的激活函数
值域:由于值域刚好落在0~1之间,恰好是概率的范围,因此最常用在二分类模型的输出层(0,1)
导数:致命缺点,在函数两侧当
很小或很大时,导数接近 0(图形呈水平),易出现梯度消失
f`(x) = f(x) (1-f(x))
sigmoid的函数数学表达式
最新推荐文章于 2025-03-16 09:01:52 发布
一, Sigmoid 激活函数
公式:Sigmoid 激活函数可以说是最经典的激活函数
值域:由于值域刚好落在0~1之间,恰好是概率的范围,因此最常用在二分类模型的输出层(0,1)
导数:致命缺点,在函数两侧当
很小或很大时,导数接近 0(图形呈水平),易出现梯度消失
f`(x) = f(x) (1-f(x))