47、可扩展的香农熵估计器及安全多方计算安全策略自动合成

可扩展的香农熵估计器及安全多方计算安全策略自动合成

可扩展的香农熵估计器

在信息论中，香农熵是衡量信息不确定性的重要指标。在实际应用场景里，如何高效且准确地估计香农熵是一个关键问题。传统方法在处理大规模数据时往往面临着计算复杂度高、可扩展性差等挑战。下面将介绍一种可扩展的香农熵估计器，它在性能和准确性上有显著提升。

理论推导与算法原理

首先，根据引理 2 可以直接得出某个量的上限表达式：
[
\frac{H|X| - H^2}{(H + \log\frac{1}{1 - p_{\sigma^ }})^2 + 1} < \frac{|X|}{2 \log\frac{1}{1 - p_{\sigma^ }}} + 1
]
对于以 ( |Y| ) 表示的边界，需要分两种情况讨论，即 ( H ) 大于 1 和小于 1 的情况：
- 当 ( H > 1 ) 时，引理 3 的第一部分给出：
[
\sum_{\sigma \in 2^Y} \frac{p’ {\sigma}(\log p’ {\sigma})^2}{H^2} \leq |Y| + \log(|Y| + \log |Y| + 1.1)
]
- 当 ( H < 1 ) 时，由于 ( p_{\sigma^ } > \frac{1}{2} )（所以 ( \log\frac{1}{1 - p_{\sigma^ }} \geq 1 )），引理 3 的第二部分表明表达式小于：
[
|Y| + \log(|Y| + \log |Y| + 2.