1.明确什么是信息、消息和信息量?
消息:信息的物理表现形式,例如声音的传输的连续信号等
信息:消息的内涵
信息量:用于将抽象的信息,化为可以量化的数字量
实际上消息量与高数中的概率有一定的关系。
考试重点A:离散信号的信息量
重要公式:
I代表信息量
a决定信息量的单位:
a的值 | I的单位 |
e | 奈特(nit) |
10 | 哈特莱(Hartly) |
2 | 比特(bit,简称b) |
P(x)代表,离散消息x发生的概率为P(x)
考试重点B:离散信号的平均信息量
重要公式:
代表信息量
M代表信号出现的次数
代表当xi时的概率乘上信息量
考试重点C:平均信息量的最大值:
公式: (b/符号)
最大的平均信息量
考试重点D:总信息量
重要公式:
(bit)
I为总信息量
n为发送一条消息(含n个字符)
注意H(x)中一定是,即
二进制的每个码元(也称符号)含1bit的信息量
M进制的每个码元(也称符号)含bit的信息量
考试重点E:传码率
也称波特率,即码元传输速率
单位Baud
公式:
是每个码元持续的时间(码元宽度),
事实上是传输一个符号的时间t
考试重点F:传信率
即每一秒传输的平均信息量
单位bps
公式:
考试重点G:误码率
和误信率 
公式:
=错误接收的码元数/传输的总码元数
=错误接收的比特数/传输的总比特数