这篇博客探讨了机器学习中softmax模型的实现，它是一个相对概率模型，用于多分类任务。博主通过梯度下降（GD）和随机梯度下降（SGD）两种优化算法来训练模型，并分析了损失函数和参数更新过程。利用提供的ex4Data数据集，展示了分类结果、参数值及损失值随优化迭代的变化，强调了在二分类问题中仅需N-1组参数的事实。
ML课的第三个练习作业
总共实现两个优化算法一个是GD一个是SGD，逻辑回归的已经在前面的博客中实现过了
数据集链接：
softmax的模型实际就是一个相对概率模型，公式如下：
θj就是对应于第j类的参数，θc=0可以理解为我们实际上是在分类C-1个类，第C个类是剩下的，其实在实际操作中不强制等于0也可以，后面我们将看到结果。
和逻辑回归一样我们的loss函数是对θ做最大似然估计：
<
最低0.47元/天 解锁文章
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
