设计贝叶斯分类器的两种参数估计方法：最大似然估计和贝叶斯估计

根据前篇文章我们知道，贝叶斯分类器设计时，需要知道先验概率 和类概率密度函数 ，然后再按照最小错误率或者最小风险标准进行决策。

但是，在实际的工程应用中，类概率密度函数往往是未可知的。即使把类概率密度函数近似为正态分布函数，其分布的均值和方差也是未知的。

因此，我们需要从已知的有限的样本中，尽可能地估计出类条件概率密度函数的参数，来方便我们设计分类器。换句话说，我们直接从样本出发，已知类概率密度函数的形式，但是类条件概率密度函数的参数未知，依然能够设计出分类器。

根据待分类数据的随机性，可以将这种参数估计的方法分为两类，即最大似然估计和贝叶斯估计。后者认为，待估计参数是完全随机、测不准的。而前者认为参数是固定的。

 

最大似然估计

已知：

       样本集