Colab Softmax回归

softmax函数用于将连续值转换为概率分布,常用于多类分类问题。它通过对未规范化预测值求指数并归一化来确保输出总和为1,代表每个类别的置信度。交叉熵损失则用来衡量预测概率与实际标签之间的差异,是评估分类模型性能的关键指标。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

softmax实际上是一个分类问题

会归与分类的区别:

回归估计一个连续值:单连续数值输出,有一个自然区间,跟真实值的区别作为损失

分类预测一个离散类别:通常多个输出,输出的第i个元素是预测为第i类的置信度

 从回归到多类分类:独热编码(one-hot encoding)

均方损失:

无校验比例:

 校验比例:

softmax函数能够将未规范化的预测变换为非负数并且总和为1,同时让模型保持 可导的性质。 为了完成这一目标,我们首先对每个未规范化的预测求幂,这样可以确保输出非负。 为了确保最终输出的概率值总和为1,我们再让每个求幂后的结果除以它们的总和。

exp(o)是要做指数,这样可以保证非负。 损失:y-\widehat{y}

 

Softmax和交叉熵损失

 

 

总结:

Softmax回归是一个多类分类模型

使用Softmax操作子得到每个类的预测置信度

使用交叉熵来衡量预测和标号的区别

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值