本文介绍了Softmax分类器如何将得分转化为概率，详细阐述了Sigmoid函数及其作用，接着探讨了Softmax的输出及交叉熵损失函数。通过对比SVM与Softmax的损失函数，展示了Softmax的优势。文章还深入讲解了最优化过程，包括梯度下降算法的原理和反向传播的计算，最后讨论了训练过程中LOSS值的变化趋势和反向传播的简化方法。
1，基本内容
将线性分类得到的得分值转化为概率值，进行多分类，在SVM中的输出是得分值，Softmax的输出是概率。
2，Sigmoid函数
表达式（值域为[0,1]）:
函数图像：
Sigmoid函数可将任意实数映射到概率值[0,1]区间上，实现根据概率值的大小进行分类。
3，Softmax的输出
softmax 函数：其输入值是一个向量，向量中元素为任意实数的评分值，输出一个向量，其中每个元素值在0到1之间，且所有元素之和为1（归一化的分类概率：）：
损失函数：交叉熵损失（cross-entropy loss）
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
