信息论初级——离散信道及信道容量——2020.11.12

信息论初级——离散信道及信道容量——2020.11.12

目录：
一、信道的分类以及数学模型
二、平均互信息
三、平均互信息的特性
四、信道容量以及其一般计算方法
五、离散无记忆拓展信道，独立并联信道，串联信道
六、信源与信道的匹配

一、信道的分类以及数学模型
1.分类：a.根据输入和输出特点：离散信道；连续信道；半离散半连续信道（一个取离散值，一个取连续值）。
b.根据信道输入输出随机变量个数的多少：单符号信道（输入输出均用一个随机变量表示）；多符号信道。
c.根据输入输出的个数：单用户信道；多用户信道。
d.根据输入端和输出端的关联：无反馈信道；有反馈信道。
e.根据信道有无干扰：有干扰信道；无干扰信道。
f.根据信道有无记忆性：有记忆信道；无记忆信道。

2.数学模型：
2.1单符号离散信道：输入符号X，输出符号Y，转移概率（传递概率）P（Y/X）可用来描述信道干扰的大小。


2.2无损信道（无干扰和噪声的信道；信息无损的传输）