逻辑回归、交叉熵、softmax

什么时候用softmax？

softmax是一种归一化函数，用于将向量中元素的值都归一化0～1之间，并保持其加和为1。
公示表达为：

根据公式和图片可看出，前一层的激活值越大，经过softmax函数后的值也就越大，又因为softmax的所有输出加和为1，因此，常利用softmax层将激活值与概率实现映射。

举例：

多元分类（multi-class classification）中，每个样本只属于一个类别。将最后一个全连接层输入softmax层，即可得到样本属于每个类别的概率P(yi|X)，注意，这些概率加和等于1

什么时候用逻辑回归？