25、离散样本空间中的算法概率与随机性检验

离散样本空间中的算法概率与随机性检验

1. 算法概率的定义

算法概率 (R(x)) 定义为 (R(x) = 2^{-K(x)})，其中 (K(x)) 表示对象 (x) 的复杂度。下面通过两个例子来理解这个概念：
- 简单对象 ：如果 (x) 是由 (n) 个零组成的字符串，那么 (K(x) \leq \log n + 2\log\log n + c)（(c) 是一个与 (n) 无关的常数）。由此可得 (R(x) \geq \frac{1}{2^{c}n\log^{2} n})。
- 复杂对象 ：通过 (n) 次公平硬币抛掷生成二进制序列 (y)，极大概率下 (K(y) \geq n)，对于这样的复杂对象 (y)，有 (R(y) \leq 2^{-n})。

2. 编码定理

编码定理指出，通用下半可计算离散半测度 (m(x))、通用先验概率 (Q_U(x)) 和算法概率 (R(x) = 2^{-K(x)}) 在一个独立的固定乘法常数范围内是相等的。具体定理内容如下：
- 定理陈述 ：存在一个常数 (c)，使得对于每个 (x)，有 (\log\frac{1}{m(x)} = \log\frac{1}{Q_U(x)} = K(x))，等式在一个加性常数 (c) 范围内成立。
- 证明过程 ：
1. 首先，由于 (2^{-K(x)}) 表示最短程序对 (Q_U(x)) 的贡献，所以对于所有 (x)，有 (2^{-K(x)} \leq Q_U(x))。
2. (Q_U(x)) 是