12、算法复杂度：理论与应用解析

算法复杂度：理论与应用解析

1. 信息压缩与热力学考量

在处理待擦除的存储信息时，可逆压缩是一种重要的策略。以二进制加法为例，可仅使用第一个输入位，因为第二个输入位可通过从输出位进行二进制减法（⊖）来恢复：
| 输入 | 输出 | 二进制减法 |
| — | — | — |
| (0, 0) | (0, 0) | 0 ⊖ 0 = 0 |
| (0, 1) | (0, 1) | 1 ⊖ 0 = 1 |
| (1, 0) | (1, 1) | 1 ⊖ 1 = 0 |
| (1, 1) | (1, 0) | 0 ⊖ 1 = 1 |

假设占用的内存由二进制字符串 i(n) 组成，那么可实现的最佳压缩由最短的二进制程序 p∗ 给出，使得 U(p∗) = i(n)，其长度即为 Kolmogorov 复杂度 C(i(n))。将 i(n) 可逆地编码为 p∗ 并擦除 p∗ 会导致最佳的自由能损失 ΔoptF = −κ T C((i(n)) log 2，可与 ΔF = −nκ T log 2 进行比较。

这些考量表明，在处理计算的热力学问题时，熵的概念应通过在标准热贡献 Sth 的基础上增加来自内存最佳擦除的贡献来改进：
Scomp = Sth + κ C(M) log 2
其中 C(M) 是计算机内存的算法复杂度。例如，利用 Scomp 可以解决 Maxwell 恶魔悖论。恶魔收集所有最快的粒子并将热量从低温传递到高温，确实可以降低 Stherm。然而，存储比较粒子速度所需的所有信息会迅速消耗自由内存，需要进行擦除操作，从而恢复热力学第二定律。

不幸的是，最佳压缩的主要问题在于它依赖于对占用内存算