在机器学习中,Softmax 是一种激活函数,常用于多分类任务中。它的主要作用是将一个未归一化的向量(通常是模型的输出)转换为一个概率分布,使得输出中的每个值都位于 0 和 1 之间,并且所有输出的和为 1。
1. Softmax
Softmax 的数学定义
Softmax 函数的数学表达式如下:
σ ( z i ) = e z i ∑ j = 1 K e z j \sigma(z_i) = \frac{e^{z_i}}{\sum_{j=1}^{K} e^{z_j}} σ(zi)=∑j=1Kez