yuxiaoye03222的博客

支持向量机（SVM）是机器学习算法之一，是二分类算法。给定一组训练样本集，如图，样本数据集是二维的，分散在平面上，需要找到一条直线将数据集分割开。可以分开的直线有很多，我们要找到其中泛化能力最好，鲁棒性最强的直线。这是在平面上的点，如果是在三维空间中，则需要找到一个平面；如果是超过三维以上的维数，则需要找到一个超平面。超平面的表达式为：原理举例：wT取（w1,w2），x取（x1,x2）T， 则原式得 w1x1+w2x2+b=0 与传统直线 Ax+By+c=0 方程式相同，由二维三维空间推到

用EM算法进行贝叶斯网络的条件参数学习，建立一个简单的网络，网络来源西瓜书，我把模型简化了，只有3个特征。其中色泽属性可取值为青绿1，乌黑2，浅白3；根蒂取值为蜷缩1，稍蜷2，硬挺3；敲声浊响1，沉闷2，清脆3；好瓜1，坏瓜2；数字是为了输入样本数据用的。现在用EM算法进行网络的条件参数学习，先简单介绍一下EM算法。概念：EM算法即最大期望算法，是一类通过迭代进行极大似然估计的优化算法，用于对包含隐变量或缺失数据的概率模型进行参数估计。与极大似然估计关系：极大似然估计是对服从已知分布的未知参数

从贝叶斯定理到模糊贝叶斯动态网络贝叶斯定理公式：p（c）为类先验概率p(x|c)为样本x相对于类别c的条件概率p(x)用于归一化的证据因子，对给定样本x,与类别无关p(c|x)即后验概率，我们想要求得的概率从贝叶斯定理到朴素贝叶斯分类器：由上面贝叶斯定理公式来估计后验概率的主要困难在于：类条件概率 是所有属性上的联合概率，难以从有限的训练样本中直接估计而得...