- 博客(5)
- 收藏
- 关注
RSS订阅原创 条件熵➡️信息增益
概率论中用条件概率描述非独立事件受其他事件影响下的概率分布，同样地，条件熵描述了在已知其他随机事件结果的条件下非独立事件的不确定性；“已知其他随机事件结果”这一条件降低了非独立事件的不确定性，我们用信息增益来描述这一影响的影响程度。
2023-11-27 20:18:04
908
原创 信息➡️信息量➡️信息熵
随机事件每次发生结果具有不确定性，信息是消除这种不确定性的东西；我们用信息对应事件的发生概率来衡量信息量，信息量函数底数的不同取值代表了信息量的不同单位。为了衡量随机事件的不确定性，我们用信息熵衡量确定随机事件每次发生结果所需要的期望信息量。
2023-11-25 21:44:26
1109
13
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人