
| 离散变量 | 连续变量 |
|---|---|
| H(X)=∑xi∈XP(xi)log1P(xi)H(X)=\sum_{x_{i} \in X} P(x_{i}) \log \frac{1}{P(x_{i})}H(X)=∑xi∈XP(xi)logP(xi)1 | H(X)=∫P(x)⋅log1P(x)dxH(X)=\int P(x) \cdot \log \frac{1}{P(x)} d xH(X)=∫P(x)⋅logP(x)1dx |
| H(X∣Y)=∑xi∈X∑yj∈YP(xi,yj)log1P(xj∣yi)H(X \mid Y)=\sum_{x_{i} \in X} \sum_{y_{j} \in Y} P(x_{i}, y_{j}) \log \frac{1}{P(x_{j} \mid y_{i})}H(X∣Y)=∑xi∈X∑yj∈YP(xi,y |

该博客探讨了在通过有误码率的信道(BSC)传输信息时,如何利用信息熵和互信息量来量化传输的可靠性。具体分析了接收到的单个数字和连续四个数字与原始消息之间的互信息量,展示了这些概念在通信错误分析中的实际应用。
最低0.47元/天 解锁文章
2189

被折叠的 条评论
为什么被折叠?



