文章目录 一、Sigmoid 二、Softmax 三、二者区别 一、Sigmoid Sigmoid函数是一种常用的激活函数,它将输入值映射到一个介于0和1之间的S形曲线上。Sigmoid函数通常用于二分类问题中,它的输出可以看作是某个事件发生的概率。然而,随着深度神经网络的发展,Sigmoid函数在一些情况下被其他激活函数(如ReLU和Leaky ReLU)取代,因为它在一些情况下可能会出现梯度消失的问题。 Sigmoid函数的数学公式如下: sigmoid ( x ) =