醉糊涂仙的博客

如果看不懂博文，请阅读《信息论基础》一看便懂。链接：https://pan.baidu.com/s/1T7rS4owM2nU_DP6rthqUPA提取码：zu9s（1）消息消息是实体，信息是抽象的。可以从消息中获取信息。消息的表现形式可以是：语言，符号，文字，图片（2）信息信息是抽象的，消息是信息的载体。举例：如果把某个人说的话看成是消息的话，那他话中传递的意思就是信...

一定要先搞清楚什么是信息量，什么是信息熵。参考博文：https://blog.youkuaiyun.com/u010916338/article/details/91127242一，什么是信息量？简言之，就是把信源看做是一个随机变量。消息（信号）就是随机变量的取值，比如a1，a2···an。信息就是这些随机变量的不确程度（发生概率越低，不确定性越大），公式如下。为什么写成这样呢？原因有二。第一：概率和...