<數學之美>讀書心得(一)信息理論中熵-的初淺理解
信息的度量與他的不確定性相關
一條信息的信息量和它的不確定性有著直接關係。
當我們需要搞清楚一件不確定的事情時,我們需要更大量的信息來了解事情的真相;相反,如果我們需要
我們已經理解的事,那僅需少量資訊就能理解。
==>可以把一件信息的信息量(真正有用的資訊)等於不確定性的多寡。
舉例一:
世足賽中,我錯過了觀看球賽的時間但我想知道最後是誰得到了冠軍,此時有觀看過球賽之某人
原创
2016-12-01 20:30:55 ·
375 阅读 ·
0 评论