本文介绍了多分类问题的定义，重点讨论了softmax函数如何扩展了二分类逻辑回归，以及如何在神经网络中作为输出层用于多类分类问题。softmax函数通过最大化单个预测值来最小化损失，而神经网络的手写数字识别则展示了输出层神经元数量的增加。同时提到了使用稀疏类别交叉熵作为损失函数的应用。
【吴恩达机器学习65-67】
1. 多分类问题的定义
- classification问题可能的output大于2种。
- multiclass的预测图像可能是右侧这样的。
2. softmax
- softmax regression算法是logistic regression的泛化（通用化）。【binary classification ----> multiclass】
- 对于logistic regression来说y=1和y=0的概率和等于1。a2=1-a1。
- 对于softmax regression来说，a1…的计算如图右。a1+a2+a3+a4 = 1。
- 接下来了解softmax regression的cost function。
- 看图像可知，当aj值越靠近1，loss越小。那么我们要minimize loss就让aj尽可能大。
- 注意，y值只能取一个，所以loss函数只会对应一个-log aj。
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
