推导Beta分布、二项分布之间的关系

基于以下分布函数之间的关系：

\[\Sigma_{i=0}^k \binom{n}{i}p^i*(1-p)^{n-i} = \frac{\Gamma(n+1)}{\Gamma(k+1)*\Gamma(n-k)}*\int_{p}^{1}x^k*(1-x)^{n-k}dx\]

要证明以下等式： \[ \sum_{i=0}^{k} \binom{n}{i} p^i (1-p)^{n-i} = \frac{\Gamma(n+1)}{\Gamma(k+1) \Gamma(n-k+1)} \int_{p}^{1} x^k (1-x)^{n-k} dx. \]

1. 左侧部分：二项分布的累积概率

左侧是二项分布的累积概率，即： \[ F(k; n, p) = \sum_{i=0}^{k} \binom{n}{i} p^i (1-p)^{n-i}. \]

2. 右侧部分：Beta 不完全函数

右侧的积分： \[ I = \int_{p}^{1} x^k (1-x)^{n-k} dx. \] 这个积分形式与 Beta 不完全函数相关。Beta 不完全函数定义为： \[ B_x(a, b) = \int_0^x t^{a-1} (1-t)^{b-1} dt. \]

设 \( a = k+1 \), \( b = n-k+1 \)，则： \[ I = \int_p^1 x^k (1-x)^{n-k} dx. \] 考虑Beta 函数的定义： \[ B(a, b) = \int_0^1 t^{a-1} (1-t)^{b-1} dt = \frac{\Gamma(a) \Gamma(b)}{\Gamma(a+b)}. \] 并且： \[ B_x(a, b) = B(a, b) - \int_x^1 t^{a-1} (1-t)^{b-1} dt. \] 于是： \[ I = B(k+1, n-k+1) - B_p(k+1, n-k+1). \] 完整 Beta 函数可由 Gamma 函数表达： \[ B(k+1, n-k+1) = \frac{\Gamma(k+1) \Gamma(n-k+1)}{\Gamma(n+2)}. \]

3. 用 正则不完全 Beta 函数与二项分布的累积概率之间的关系

\[ I = B(k+1, n-k+1) - B_p(k+1, n-k+1). \] Beta 不完全函数和正则化 Beta 分布函数之间的关系： \[ I = B(k+1, n-k+1) (1 - I_p(k+1, n-k+1)). \] 其中正则化 Beta 不完全函数定义为： \[ I_x(a, b) = \frac{B_x(a, b)}{B(a, b)}. \] 所以： \[ 1 - I_p(k+1, n-k+1) = \sum_{i=0}^{k} \binom{n}{i} p^i (1-p)^{n-i}. \] 于是： \[ \sum_{i=0}^{k} \binom{n}{i} p^i (1-p)^{n-i} = \frac{B(k+1, n-k+1)}{B(k+1, n-k+1)} - \frac{B_p(k+1, n-k+1)}{B(k+1, n-k+1)}. \] 由于： \[ B(k+1, n-k+1) = \frac{\Gamma(k+1) \Gamma(n-k+1)}{\Gamma(n+2)}, \] 最终得到： \[ \sum_{i=0}^{k} \binom{n}{i} p^i (1-p)^{n-i} = \frac{\Gamma(n+1)}{\Gamma(k+1) \Gamma(n-k+1)} \int_{p}^{1} x^k (1-x)^{n-k} dx. \] 证毕

补充关于共轭的关系

假设 \[X∼Bin(n,p)\]

其中，X表示成功次数，p为成功概率。

如果 p的先验服从 Beta 分布：

\[p \sim \text{Beta}(\alpha, \beta)\]

那么 后验分布 可由贝叶斯定理计算：

\[p(p | X) \propto p(p)p(X∣p).\]

展开：

\[p(p | X) \propto p^{\alpha-1} (1-p)^{\beta-1} \cdot p^X (1-p)^{n-X}.\]

合并指数：

\[p(p | X) \propto p^{X+\alpha-1} (1-p)^{n-X+\beta-1}.\]

这是一个 Beta 分布：

\[p(p | X) \sim \text{Beta}(\alpha + X, \beta + n - X).\]

以上表明，在二项分布的贝叶斯推断中，Beta 分布是其 共轭先验，后验仍然是 Beta 分布。