11、定时语言与λ - 演算编码相关研究

定时语言与λ - 演算编码相关研究

定时语言的体积、熵与柯尔莫哥洛夫复杂度

在研究定时语言时，我们关注其体积和熵等特征。对于某些情况，通过计算得出相关大小约为 38x38 和 40x40 时：
- #L0.05−(n) ∼12.41n
- #L0.05+(n) ∼13.05n

由此可得 12.41n · 0.05n ≤Vn ≤13.05n · 0.05n，进而得出熵 H 的范围：H ∈[log 0.62; log 0.653] ⊂(−0.69; −0.61)。若取更小的 ε = 0.01，能得到更好的熵估计：H ∈[log 0.6334; log0.63981] ⊂(−0.659; −0.644)。实际上，熵的真实值为 H = log(2/π) ≈ log 0.6366 ≈−0.6515。

为了从信息内容的角度解释定时语言，我们引入柯尔莫哥洛夫复杂度。对于定时单词，由于其可能包含高复杂度的有理延迟甚至不可计算的实延迟，所以我们考虑具有有限精度 ε 的定时单词。若一个定时单词 v 的所有延迟都是有理数，且 w ∈BNEε(v)，则称 v 是 w 的有理 ε - 近似。

下面是两个关于柯尔莫哥洛夫复杂度的重要定理：
1. 定理 4 ：设 A 是满足 A2 - A4 的定时自动机，L 是其语言，H 是其熵。对于任意有理数 α, ε > 0，以及足够大的 n，存在长度为 n 的定时单词 w ∈L，使得 w 的所有有理 ε - 近似 v 的柯尔莫哥洛夫复杂度满足：K(v|n, ε) ≥n(H + log 1/ε −α)。
- 证明思路 ：根据熵的定义