4、反应式统计映射：GMM与HMM在多类型数据建模中的应用

反应式统计映射：GMM与HMM在多类型数据建模中的应用

1. 生成式方法与数据需求

生成式方法通常需要大量的训练数据。输入 (x) 和目标观测 (y) 的维度可能较高，为了准确确定 (p(x, y))，需要一个大型的训练集。在相关项目中，主要关注了两种生成式方法：高斯混合模型（GMMs）和隐马尔可夫模型（HMMs），重点在于回归、实时生成以及Mage框架。

输入和目标特征向量序列分别记为 (x = [x_1, \cdots, x_t, \cdots, x_T]) 和 (y = [y_1, \cdots, y_t, \cdots, y_T])，其中 (x_t) 和 (y_t) 分别是在时间 (t) 观测到的输入和目标特征的 (D_x) 和 (D_y) 维向量，(T) 是序列长度。

2. GMM 基于的映射

2.1 训练阶段

在训练阶段，输入和目标特征的联合概率密度函数（pdf）由GMM建模：
[p(z|\lambda) = p(x, y) = \sum_{m = 1}^{M} \alpha_m N(z, \mu_m, \Sigma_m)]
其中 (z = [x, y])，(\mu_m = \begin{bmatrix} \mu_{x_m} \ \mu_{y_m} \end{bmatrix})，(\Sigma_m = \begin{bmatrix} \Sigma_{xx_m} & \Sigma_{xy_m} \ \Sigma_{yx_m} & \Sigma_{yy_m} \end{bmatrix})，(\lambda) 是模型的参数集，(N(., \mu, \Sigma)) 是均值为 (\mu) 、协