生成式模型
假设训练数据符合某分布p,我们的目标是构建一个p模型,来生成和训练数据相似的数据。
从大的分类标准来看,生成式模型分为两类,显式密度估计和隐式密度估计,这取决于我们定义和求解p模型的方式是显式还是隐式。
以下是生成式模型的家族图谱:

pixelRNNs&pixelCNNs

这里的定义很简单,唯一的一点疑惑是,如何定义元素的顺序?下面有两种方法:


变分自编码器(Variational Autoencoders,VAE)
首先是自编码器:

首先我们通过编码器来得到输入数据的特征,然后再将其解构来得到一些与输入数据相似的数据。