机器学习数学基础与算法解析

1、设 �~N(μ,Σ)，其中 Σ = LLᵀ。证明可以按以下方式得到样本 �：�~N(0,I)；� = L� +μ

本题可通过证明$\mathbf{Y} = L\mathbf{Z} + \boldsymbol{\mu}$的均值和协方差分别等于$\boldsymbol{\mu}$和$\boldsymbol{\Sigma}$，来证明 $\mathbf{Y}$ 服从 $N(\boldsymbol{\mu},\boldsymbol{\Sigma})$ 分布。

1. 计算 $\mathbf{Y}$ 的均值 $E(\mathbf{Y})：
   已知 $\mathbf{Z} \sim N(0, I)$，即 $E(\mathbf{Z}) = 0$，$\mathbf{Y} = L\mathbf{Z} + \boldsymbol{\mu}$，根据期望的线性性质 $E(aX + b) = aE(X) + b$（其中 $a$、$b$ 为常数，$X$ 为随机变量）可得：
   $$
   E(\mathbf{Y}) = E(L\mathbf{Z} + \boldsymbol{\mu}) = E(L\mathbf{Z}) + E(\boldsymbol{\mu})
   $$
   由于 $L$ 为常数矩阵，$\boldsymbol{\mu}$ 为常数向量，所以 $E(L\mathbf{Z}) = L E(\mathbf{Z})$，$E(\boldsymbol{\mu}) = \boldsymbol{\mu}$，将 $E(\mathbf{Z}) = 0$ 代入可得：
   $$
   E(\mathbf{Y}) = L \times 0 + \boldsymbol{\mu} = \boldsymbol{\mu}
   $$

2. 计算 $\mathbf{Y}$ 的协方差 $\text{Cov}(\mathbf{Y})：
   根据协方差的定义 $\text{Cov}(\mathbf{Y}) = E[(\mathbf{Y} - E(\mathbf{Y}))(\mathbf{Y} - E(\mathbf{Y}))^\top]$，将 $\mathbf{Y} = L\mathbf{Z} + \boldsymbol{\mu}$，$E(\mathbf{Y}) = \boldsymbol{\mu}$ 代入可得：
   $$
   \text{Cov}(\mathbf{Y}) = E[(L\mathbf{Z} + \boldsymbol{\mu} - \boldsymbol{\mu})(L\mathbf{Z} + \boldsymbol{\mu} - \boldsymbol{\mu})^\top] = E[(L\mathbf{Z})(L\mathbf{Z})^\top]
   $$
   根据矩阵转置的性质 $(AB)^\top = B^\top A^\top$，可得 $(L\mathbf{Z})^\top = \mathbf{Z}^\top L^\top$，则：
   $$
   \text{Cov}(\mathbf{Y}) = E[L\mathbf{Z}\mathbf{Z}^\top L^\top]
   $$
   由于 $L$ 为常数矩阵，