10、概率电路：从基础到应用

概率电路：从基础到应用

1. 概率电路的属性

概率电路（Probability Circuits, PC）作为一种新型的概率模型，以其高效推理和可处理性受到了广泛关注。它通过图形结构 (G) 和一组参数 (\theta) 来表征随机变量 (X)。与传统的概率图模型（PGM）不同，PC不仅提供了紧凑的概率分布表示，还确保了许多复杂查询可以在多项式时间内完成。这些特性使得概率电路非常适合应用于资源受限的边缘设备中。

1.1 节点类型

概率电路中的节点分为两类：内部节点和输入（叶）节点。内部节点进一步分为乘法节点和加法节点。乘法节点用于表示变量之间的分解关系，而加法节点用于表示变量之间的加权和。叶节点则编码单变量分布，通常选择指数族分布，如高斯分布或伯努利分布。这些分布的参数 (\theta_L) 用于描述布尔变量的伯努利分布或连续变量的高斯分布。

1.1.1 内部节点

• 乘法节点 ：定义为 ( q_n(X) = \prod_{c \in children(n)} q_c(X) )，其中 ( q_c(X) ) 是子节点的输出概率。
• 加法节点 ：定义为 ( q_n(X) = \sum_{c \in children(n)} \theta_{S,c} q_c(X) )，其中 ( \theta_{S,c} ) 是加权求和节点的边权重，且满足 ( \sum_c \theta_{S,c} = 1 )。

1.2 参数构成

概率电路的参数集 (\theta) 分为两部分：(\theta