m0_55664376的博客

一. 贝叶斯决策论贝叶斯决策论是概率框架下实施决策的基本方法。对分类任务来说，在所有相关概率已知的情况下，贝叶斯决策论考虑如何基于这些概率和误判损失来选择最优的类别标记。下面我们以多分类任务为例，来解释其基本原理。（1）假设有N种可能的类别标记，y={c1,c2,...,cn},x 为样本。（2）基于后验概率P(ci | x)可获得将样本x 分类为ci的期望损失R( ci | x)。这个损失可以理解为如果将x 分为ci类的风险损失最小,那么x最有可能被分为ci类，为什么是这样呢？根据书上R.

一.原问题给定两类样本集，它们分布在空间中，我们最基本的想法就是基于训练级在样本空间中找到一个划分超平面，将不同类别的样本分开。那么问题来了，可能划分超平面有多个，我们该寻找哪一个呢？从直观上看，我们应该去找位于两类训练样本“正中间”的划分超平面。在样本空间中，划分超平面可以利用如下线性方程来描述：w.T x+b=0; 其中w为法向量决定了超平面的方向，b为位移项，决定了超平面与原点的距离。所以我们现在要做的就是确定w ,b。样本中的一点到超平面的距离可用如下表示：.