信息论与量子门电路计算解析

27、从一副32张的牌组中随机抽取一张牌，其熵是多少？抽取四张牌组成一手牌，其熵是多少？

若每张牌被抽到的概率相等，从32张牌中随机抽一张牌，其熵为：

$$
- \sum \left( \frac{1}{32} \right) \cdot \log_2 \left( \frac{1}{32} \right) = \log_2 32 = 5 \text{ 比特/符号}
$$

而抽取四张牌组成一手牌的熵计算较为复杂，需考虑组合情况及每种组合的概率。若假设所有可能的四张牌组合概率相等，则先计算组合数：

$$
C(32, 4) = \frac{32!}{4!(32 - 4)!} = 35960
$$

此时熵为：

$$
\log_2 35960 \approx 15.13 \text{ 比特/符号}
$$

28、构建约束长度 m = 3，对应编码器为 Xi−1 Xi Xi−2，且 yi(1) = Xi，yi(2) = Xi + Xi−2，yi(3) = Xi + Xi−1 + Xi−2 的系统非递归卷积码 (n, k) = (3, 1)。绘制对应于最多四个输入位 a、b、c、d 的编码树。

构建该系统非递归卷积码及绘制编码树，可按以下步骤进行：

1. 明确卷积码参数
   - $(n, k) = (3, 1)$：表示每 1 个输入位产生 3 个输出位
   - 约束长度 $m = 3$：意味着编码器记忆 3 个输入位

2. 根据编码器规则计算输出
   输出表达式为：
   - $y_i^{(1)} = X_i$
   - $y_i^{(2)} = X_i + X_{i-2}$
   - $y_i^{(3)} = X_i + X_{i-1} + X_{i-2}$

3. 逐步绘制编码树
   - 输入