1.Definition
Sigmoid 函数又称 S 函数,或者逻辑函数(Logistic function),它是一个连续、光滑、严格单调的阈值函数。
其函数图像为:
其对称中心为(0, 0.5)
2.Math fundations
- 其数学表达式为: y=11+e−x
- 其一阶微分为:
dydx=[1−y(x)]y(x)=e−x(1+e−x)2=ex(1+ex)2
它的拐点为 x=0, y= 12 的点,如图所示。
3.Application in NN
- BP 算法中神经元的作用函数?
4.How to use in matlab?
- Matlab 中无 Sigmoid 函数,需要自己定义,如下
5.A question form 知乎(待续):
为什么 sigmoid function可以表示分类问题的probability?–★必看★
Softmax 函数的特点与应用?
- Sigmoid 函数是 Bernoulli 分布的标准链接函数; Softmax 的二维形式。
- Sigmoid 用于二分类;Softmax 用于多分类(LDA)。
References:
1.Sigmoid Function from MathWorld.
2.Continuous Output-The Sigmoid Function
3.S-型函数-sigmoid
4.Matlab-sigmoid 函数
5.Markdown 公式编辑
6.关于 softmax函数