
信息论
文章平均质量分 94
CDL_03
这个作者很懒,什么都没留下…
展开
-
熵、相对熵与互信息
1.熵描述随机变量X中事件x发生所带来的信息量,概率越小的事情发生了,所带来的信息量越大(太阳从西边升起来了!难道有什么大事情要发生?信息量很大)。·定义:对随机变量X,事件x的自信息量I(X=x)简写为I(x)=Gamma公式展示 Γ(n)=(n−1)!∀n∈N\Gamma(n) = (n-1)!\quad\foralln\in\mathbb NΓ(n)=(n−1)!∀n∈N 是通过 E...原创 2018-11-30 00:42:41 · 1611 阅读 · 2 评论 -
无失真信源编码
编码讨论的问题(1)信源编码:质量一定,如何提高信息传输速度(编码效率,压缩比)(2)信道编码:信道传输速度一定,如何提高信息传输质量(抗干扰能力)信源编码:以提高通信有效性为目的的编码。通常通过压缩信源的冗余度来实现,采用的一半方法是压缩每个信源符号的平均比特数或信源的码率(bit/符号),即同样多的信息用较少的码率传送,使单位时间内传送的平困信息量增加,从而提高通信的有效性。信道编码:...原创 2018-12-27 22:07:26 · 3956 阅读 · 0 评论