“交叉熵”如何做损失函数？

于 2021-09-06 12:04:46 发布
阅读量361 收藏 1
点赞数
分类专栏： 机器学习与人工神经网络 文章标签： 深度学习 概率论 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_44623752/article/details/120130525
版权

“交叉熵”如何做损失函数？

熵

模型的复杂程度
在这里插入图片描述
牛顿对力的定义：
在这里插入图片描述
自洽自己的力学体系：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
计算机随机输入一个16位的二进制数，这个数的概率是1/2^16,一旦输入，它的概率就被变成了1，整件事的信息量为16比特。
熵就是衡量系统从不确定的状态到确定的状态难度有多大。
在这里插入图片描述
在这里插入图片描述

熵的定义

对这个系统求信息量的期望
在这里插入图片描述

相对熵-KL散度

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
交叉熵越小，代表两个概率模型越接近。

神经网络怎么利用交叉熵

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
极大似然估计的log是为了把连乘换成连加
交叉熵log是写在定义里的，以2为底是为了最后计算出来的单位是比特
负号也是不一样的，加大似然估计是为了求极大值转化为求极小值，交叉熵负号是写在定义里的

评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值