55、多类学习与传感器运动系统的组合层次学习

多类学习与传感器运动系统的组合层次学习

1. 多类学习中的先验分布与参数估计

在多类学习中，对于参数的估计常常会使用到不同的先验分布。
- 狄利克雷先验（Dirichlet Prior） ：对于 $\beta_{t}^{k}$，可以固定一个狄利克雷先验，即 $\beta_{t}^{k} = (\beta_{t}^{k0}, \beta_{t}^{k1}, …, \beta_{t}^{kK}) \sim Dirichlet(\varphi_{t}^{k0}, \varphi_{t}^{k1}, …, \varphi_{t}^{kK})$。当 $h_{t} = 1$ 时，假设标注者忽略要给出的标签，此时设定 $E [\beta_{t}^{kc}] = 1/(K + 1)$ 且 $Var [\beta_{t}^{kc}] = 0.01$，其中 $\forall{k, c} \in {0, 1, 2, …, K}$，然后使用方程 (11) 和 (12) 来估计参数 ${\varphi_{t}^{k}}$。
- 均匀先验（Uniform Prior） ：非信息先验常用于对无知情况进行建模，因为它们反映了对参数缺乏了解的情况。常用的非信息先验是均匀分布，用狄利克雷分布可表示为 $\beta_{t}^{k} \sim Dirichlet(1)$。
- 杰弗里斯先验（Jeffreys Prior） ：另一种广泛使用的非信息先验是杰弗里斯先验，对于 $\beta_{t}^{k}$，有 $\beta_{t}^{k} \sim Dirichlet(0.5)$。
- 权重的