一般信道容量的计算方法

由 拉 格 朗 日 乘 子 法 对 L = I ( X ; Y ) − λ ∑ i p i 对 p i 求 导 可 得 公 式 ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) p ( y i ) ) = l o g 2 e + λ 引 入 C : ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) p ( y i ) ) = C 分 离 定 值 : ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) ) = C + ∑ j = 1 m p ( y j / x i ) l o g ( p ( y i ) ) ∑ j = 1 m p ( y j / x i ) = 1 , ∑ j = 1 m p ( y j / x i ) l o g ( p ( y j / x i ) ) = ∑ j = 1 m p ( y j / x i ) l o g ( p ( y i ) + C ) 求 解 p ( y i ) + C , 由 转 移 概 率 再 解 出 p i 由拉格朗日乘子法对L=I(X;Y)-\lambda \sum_{i} p_i 对p_i求导可得公式\\ \sum_{j=1}^m p(y_j/x_i)log(\frac{p(y_j/x_i)}{p(y_i)})=log_2e+\lambda \\ 引入C:\sum_{j=1}^m p(y_j/x_i)log(\frac{p(y_j/x_i)}{p(y_i)})=C \\ 分离定值:\sum_{j=1}^m p(y_j/x_i)log(p(y_j/x_i))=C+\sum_{j=1}^m p(y_j/x_i)log(p(y_i))\\ \sum_{j=1}^m p(y_j/x_i)=1,\sum_{j=1}^m p(y_j/x_i)log(p(y_j/x_i))=\sum_{j=1}^m p(y_j/x_i)log(p(y_i)+C)\\ 求解p(y_i)+C,由转移概率再解出p_i L=I(X;Y)λipipij=1mp(yj/xi)log(p(yi)p(yj/xi))=log2e+λCj=1mp(yj/xi)log(p(yi)p(yj/xi))=Cj=1mp(yj/xi)log(p(yj/xi))=C+j=1mp(yj/xi)log(p(yi))j=1mp(yj/xi)=1,j=1mp(yj/xi)log(p(yj/xi))=j=1mp(yj/xi)log(p(yi)+C)p(yi)+Cpi

如 果 是 对 称 信 道 则 用 公 式 I ( X ; Y ) = l o g s − 某 一 行 的 熵 H ( Y ) = l o g s 如果是对称信道则用公式I(X;Y)=logs-某一行的熵\\ H(Y)=logs I(X;Y)=logsH(Y)=logs

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值