非监督学习的模型为条件概率分布P(z|x)和p(x|z)的区别

关注

原创最新推荐文章于 2026-08-25 10:59:50 发布 1.7k 阅读 AI 写同款· GEO 优化 ›

统计学两个分布：Z 分布和student-t 分布（假设检验Hypothesis test、置信区间Confidence interval）商业统计原理体会2:回顾Z 分布和student-t 分布置信区间假设检验p-value总结回顾上一次最后遗留了一个问题，将得到的sample用CLT视作正态分布，再通过标准化得到z值z=Xˉ−μσ/nz = \frac{\bar{X}-\mu}{\sigma/\sqrt{n}}z=σ/nXˉ−μ对应标准正态分布。但发现公式右边有两个未知量，其实也就是我们希望得到的总体均值和另外一个未知量总体方差。有两套著名方法去处理总体方差将它变成一个已知量。 Z 分布和student-t 分布这两种方法其实是阅读详情

在无监督学习中，假设X是输入空间，Z是输出的隐式结构空间，要学习的模型非概率模型情况可以表示为函数z=g(x)，概率模型情况下表示为条件概率分布P（z|x）或p(x∣z)，它们都可以用来描述数据中的潜在结构和关系，而监督学习中关于概率模型一般表示为P（z|x），为什么会有这种区别呢？

在这里插入图片描述

P(z|x)给定输入 x 时，输出 z 的概率，p(x∣z) 给定输出 z 时，输入 x 的概率，对于监督学习和非监督学习都可以这样解释。

首先来说说非监督学习中的情况：

这种表示方法关注的是给定观察数据 x 时，推断出潜在变量 z的概率。这在需要对数据进行分类或标注的场景中非常有用。

例子：假设我们有一组邮件数据，每封邮件都有一系列的特征（如关键词、发件人、邮件长度等），我们想要将邮件分为“垃圾邮件”和“非垃圾邮件”两类。在这种情况下，x 表示邮件的特征，而 z 表示邮件的分类标签（垃圾邮件或非垃圾邮件）。我们使用 P(z|x)来计算给定邮件特征时，邮件是垃圾邮件的概率。通过这种方式，我们可以对新邮件进行分类。

相对地，p(x|z)表示的是在已知数据属于某个潜在类别 z的情况下，观察到特定数据点 x 的概率。这在需要生成或重建数据的场景中非常有用。

例子：考虑一个文本生成任务，我们的目标是生成与特定主题相关的文本。在这里，z表示主题，而 x表示文本内容。我们已经有一些标记了主题的文本数据。通过学习 p(x|z)，我们可以了解给定主题下文本的生成概率。例如，如果 z是“科技新闻”，那么“人工智能”、“机器学习”等词汇在 x 中出现的概率会很高。利用这个分布，我们可以尝试生成新的、与特定主题相关的文本。

这两种表示方法在无监督学习中的应用通常取决于我们的目标是理解数据的潜在结构（分类、聚类）还是生成新的数据样本（生成模型）。在实际应用中，我们可能会根据问题的具体需求和数据的特性来选择最合适的方法。有时，我们甚至可以结合这两种方法来更好地理解和利用数据。例如，在变分自编码器（VAE）中，我们同时使用 P(z|x) 和 p(x|z)来学习数据的潜在表示，并生成新的数据点。

对于监督学习，通常的目标是找到一个模型，使得对于给定的输入 x，可以准确预测输出 y。在这种情况下，通常关注的条件概率是 p(y|x)，即给定输入 x 时，预测输出 y的概率。然而，监督学习中的模型也可以通过条件概率 p(x|y) 来理解，尽管这不太常见。例如，在一些特定的任务中，可能有多个输入样本 x对应于同一个输出 y，这种情况下，p(x|y) 可以描述给定特定输出条件下观察到特定输入样本的概率。

更多统计学习基础知识请参考专栏《统计学习基础知识》。

更多人工智能基础知识请参考专栏《人工智能基础知识》。