sigmoid函数(也叫逻辑斯谛函数):
其实逻辑斯谛函数也就是经常说的sigmoid函数,它的几何形状也就是一条sigmoid曲线。

logistic曲线如下:
softmax函数:
Softmax 在机器学习和深度学习中有着非常广泛的应用。尤其在处理多分类(C > 2)问题,分类器最后的输出单元需要Softmax 函数进行数值处理。关于Softmax 函数的定义如下所示

其中,Vi 是分类器前级输出单元的输出。i 表示类别索引,总的类别个数为 C。Si 表示的是当前元素的指数与所有元素指数和的比值。Softmax 将多分类的输出数值转化为相对概率,更容易理解和比较。我们来看下面这个例子。
一个多分类问题,C = 4。线性分类器模型最后输出层包含了四个输出值,分别是:
经过Softmax处理后,数值转化为相对概率:

很明显,Softmax 的输出表征了不同类别之间的相对概率。我们可以清

本文介绍了sigmoid函数,一种常见的S型曲线函数,常用于二分类问题和神经网络的激活函数。接着详细阐述了softmax函数,它是sigmoid的多维扩展,常用于多分类问题,将输出转换为概率分布。通过实例展示了softmax如何将连续值转化为相对概率,便于理解和决策。
最低0.47元/天 解锁文章
5万+

被折叠的 条评论
为什么被折叠?



