信息论笔记1

第一题 球赛问题

棒球比赛中，大卫和麦克在前面的比赛中打平，最后3场与其他选手的比赛结果将最终决定他们的胜、负或平 若最后3场他们与其他选手的比赛结果胜负的可能性均为0.5，

1.麦克最终比赛结果是否可以作为一个信源？

2.若可以作为信源，计算信源的信息熵

1.可以作为一个信源，因为比赛的结果状态已知，胜负平的概率也可知，所以可以做一个信源

2.

.

第二题

设有n个球，每个球都以同样的概率落入N个格子的每个格子中（N=>n），假定事件A：某指定的n个格子中各落入一个球；事件B：任何n个格子中各落入一个球

1.计算事件A、B发生后所提供的信息量

这里A.B发生前并没有任何信息，所以发生后提供的信息量就是A B的自信量，自信量I(A)=-logP(A)=log1/P(A)