19、概率分布与连续优化：理论与实践

概率分布与连续优化：理论与实践

1. 概率分布相关问题

1.1 离散随机变量的二元分布

给定两个离散随机变量 (X) 和 (Y) 的二元分布 (p(x, y))，需要计算：
- 边缘分布 (p(x)) 和 (p(y))。
- 条件分布 (p(x|Y = y_1)) 和 (p(y|X = x_3))。

1.2 高斯混合分布

考虑两个高斯分布的混合：
[0.4 N\left(\begin{bmatrix}10\2\end{bmatrix},\begin{bmatrix}1&0\0&1\end{bmatrix}\right)+ 0.6 N\left(\begin{bmatrix}0\0\end{bmatrix},\begin{bmatrix}8.4&2.0\2.0&1.7\end{bmatrix}\right)]
需要完成以下计算：
- 计算每个维度的边缘分布。
- 计算每个边缘分布的均值、众数和中位数。
- 计算二维分布的均值和众数。

1.3 伯努利分布建模

对于一个有时能编译有时不能编译的计算机程序，用参数为 (\mu) 的伯努利分布来建模编译器的随机性 (x)：
[p(x | \mu) = \mu^x(1 - \mu)^{1 - x}, x \in {0, 1}]
选择伯努利似然的共轭先验，并计算后验分布 (p(\mu | x_1, \ldots, x_N))。

1.4 贝叶斯定理应用

有两个袋子，第一个袋子有四个芒果和两个苹果，第二个袋子有四个