19、源编码：经典与量子的探索

源编码：经典与量子的探索

1. 源编码概述

源编码是一种将信息编码以便后续解码的过程，其重要目标之一是压缩信息，从而降低存储或传输成本。主要有三种源编码变体：
- 经典源编码 ：将经典源产生的信息编码为固定长度的二进制字符串，且能以高概率解码出原始信息。香农源编码定理为这种编码方式的压缩率设定了渐近界限。
- 量子源编码 ：源产生量子信息，将其编码为量子比特序列再进行解码。舒马赫定理为这种量子编码的压缩率提供了类似的渐近条件。
- 混合源编码 ：源产生经典信息，将其编码到寄存器的量子态中，再通过对寄存器的测量进行解码。霍尔沃和纳亚克的定理为这种编码方式的特定形式设定了基本限制。

2. 经典源编码

2.1 基本概念

在经典源编码中，经典源独立地从已知概率分布中选取符号，形成符号序列。我们的讨论主要集中在固定长度编码方案，即编码长度仅由源产生的符号数量决定，而非符号本身。设计这种方案的常见目标是在保证高概率恢复原始序列的前提下，尽量缩短二进制字符串编码的长度。

2.2 香农源编码定理

设Σ为字母表，p ∈ P(Σ) 为概率向量，Γ = {0, 1} 为二进制字母表。对于正整数n、实数α > 0 和δ ∈ (0, 1)，以及m = ⌊αn⌋，若存在一对映射 f : Σⁿ → Γᵐ 和 g : Γᵐ → Σⁿ 满足：
[
\sum_{a_1\cdots a_n\in G} p(a_1) \cdots p(a_n) > 1 - \delta