郑弦的博客

1. 三类具有对称性的信道在不同的《信息论》教材中，有关信道对称性的描述并不统一，这为学习对称性信道的信道容量计算方法造成的一定障碍。因此，本文在文章的开篇部分将对本文中所描述的三种具有对称性的信道进行严格定义，以减小文章出现歧义的概率。Symmetric Channel：对称信道（Symmetric Channel）是最严格的对称性信道，该信道要求：对于任意输入符号，其转移概率均为第一个输入符号转移概率的置换；即：∀xt∈X,∃E=∏Eij,s.t.  p⃗(y∣xt)=p⃗(y∣x1)

一种基于线性方程组的信道容量求解方法1. 信道容量的一般性结论信道容量的定义为：C=I(X;Y)max⁡ C = I(X;Y)_{\max}C=I(X;Y)max​求解信道容量，即在以输入分布为自变量的情况下，求解平均互信息的极大值。需要注意的是：输入分布是信源概率空间中的概率，需要满足概率空间完备性。而直接通过驻点求解出的结论未必满足这一完备性。因此：信道容量的求解问题本质上是多元函数求解约束极值的问题。1.1. 拉格朗日乘子法多元函数的约束极值一般通过拉格朗日乘子法求解。拉格朗日乘子法的