31、克劳德·香农：信息理论与熵的多元影响

克劳德·香农：信息理论与熵的多元影响

1. 纠错码的理论背景

香农为纠错码提供了理论基础。纠错码与我们通常关注的密码类型相反，它通过引入额外的冗余信息，使消息更易于读取，即便消息部分受损也能恢复。而密码学家则致力于将冗余信息最小化，因为模式是密码分析者的“好朋友”，一个好的密码应该掩盖这些模式的存在。

2. 唯一解点

香农提出了计算唯一解点（即密文有望有唯一解的长度）的通用技术。唯一解点 (U) 的计算公式为 (U = \log_2(K)/D)，其中 (K) 是可能的密钥数量，(D) 是消息每个字母的冗余度。若消息在加密前进行压缩，(D) 值会降低，从而提高 (U) 值，原本有唯一解的消息可能因此变得模糊。需要注意的是，(D) 值是通过经验确定的，且不同作者的取值可能不同。

3. 扩散与混淆

香农提出的扩散和混淆概念在现代密码学中起着重要作用：
- 扩散 ：指将每个明文字母的影响分散到多个密文字母上。例如，使用 (5×5) 矩阵进行加密时，每个明文字母会影响五个密文字母。现代密码学家希望明文和密钥的单个比特都能产生这种效果，追求单个消息字母或密钥比特的改变能使整个密文或约一半的比特发生变化，即“雪崩效应”。这使得密码分析变得更加困难，因为不能逐个分析密文片段，而必须将其作为一个整体来处理。
- 混淆 ：是指使明文和密文之间的关系变得复杂。现代密码很好地体现了这一概念，即使知道大量明文、对应的密文以及加密算法，密码分析者也难以确定密钥。在现代系统中，混淆通过替换实现，扩散通过置换实现。虽然一战时期的德国密码（如ADFGX和ADFGVX）已经