是什么机器学习中生成模型/判别模型?

图解

举例理解

判别式模型举例：要确定一个羊是山羊还是绵羊，用判别模型的方法是从历史数据中学习到模型，然后通过提取这只羊的特征来预测出这只羊是山羊的概率，是绵羊的概率。

生成式模型举例：利用生成模型是根据山羊的特征首先学习出一个山羊的模型，然后根据绵羊的特征学习出一个绵羊的模型，然后从这只羊中提取特征，放到山羊模型中看概率是多少，在放到绵羊模型中看概率是多少，哪个大就是哪个。

细细品味上面的例子，判别式模型是根据一只羊的特征可以直接给出这只羊的概率（比如logistic regression，这概率大于0.5时则为正例，否则为反例），而生成式模型是要都试一试，最大的概率的那个就是最后结果~
（是不是有点类似生成模型是模板匹配，而判别模型是分类回归）

从动机角度理解

机器学习的终极目标，从统计学角度就是求后验概率p(y|x)
有两种基本策略：

• 判别式（discriminative）模型
  思路：直接对条件概率 p(y|x) 建模：
  p(y|x) = f(x)
• 生成式（generative）模型
  思路：先对联合概率分布p(x,y)建模，再获得 p(y|x)：
  p(y|x) = p(y|x)=p(x,y)/p(x) = p(x|y)p(y) / p(x)，利用了贝叶斯公式，将联合概率p(x,y)分解为p(x|y)p(y)
  

生成模型和判别模型的不同世界：

假设有四个samples：

生成式模型的世界是这个样子：


而判定式模型的世界是这个样子：

参考：

机器学习–判别式模型与生成式模型