考虑香农公式在等概率时的情形
香农公式为H=-(p1*log p1+p2*log p2+...+pn*log pn)
在这里如果概率p1=p2=..pn =1/n
那上面的公式可以简化为H=-n*p1*log p1 =-n*1/n*log 1/n=log n
而H=log n却是在没有任何信息相关条件下二分查找的值,从这里可以看出香农公式在一般实践中的正确性。
香农公式为H=-(p1*log p1+p2*log p2+...+pn*log pn)
在这里如果概率p1=p2=..pn =1/n
那上面的公式可以简化为H=-n*p1*log p1 =-n*1/n*log 1/n=log n
而H=log n却是在没有任何信息相关条件下二分查找的值,从这里可以看出香农公式在一般实践中的正确性。
本文深入探讨了香农公式在等概率条件下的信息熵计算过程,并通过实例展示了其在实际场景中的正确性和实用性。
994

被折叠的 条评论
为什么被折叠?



