10、自适应学习机器：判别学习、深度学习与近似推理

自适应学习机器：判别学习、深度学习与近似推理

在机器学习的源分离领域，判别学习和近似推理是至关重要的技术。判别学习能够提升模型对不同源的区分能力，而近似推理则帮助我们找到模型中的参数和超参数。下面将详细介绍几种判别学习方法以及近似推理的相关内容。

判别式非负矩阵分解（DNMF）

• DNMF - II
  • 目标函数 ：为了解决回归问题，构建了如下学习目标函数：
    plaintext E(Ba,Wai) = λeE1(Ba,Wai) + E2(Ba,Wai) + λwα ∑(a=1 to m) ∑(i=1 to n) tr[Wai1]
    其中， λe 是 E1(·) 和 E2(·) 之间权衡的正则化参数， λw 用于调整正则化项。 ℓ1 - 范数正则化用于促进权重矩阵 Wai 的稀疏性。
  • E1(Ba,Wai) ：类似于标准 NMF 准则，用于独立学习每个源 a 对应的基矩阵 Ba 。
    plaintext E1(Ba,Wai) = ∑(a=1 to m) ∑(i=1 to n) DKL(Xai∥BaWai)
  • E2(Ba,Wai) ：用于进行判别式训练，旨在最