zxn1996csdn的博客

本文包括：支持向量机简介 线性可分支持向量机模型的形式 函数间隔和几何间隔 间隔最大化问题（最大间隔法） 对偶算法 利用KKT求最优w和b 其它有关数据分析，机器学习的文章及社群1.支持向量机简介：支持向量机是一种二分类模型，与感知机类比，其相同之处在于它也是需要找到一个超平面对数据集进行分割，区别在于，感知机模型得到的超平面空间中可以有无穷个超平面，但支持向量机仅含有一个，这一个超平面与样本点的间隔是最大化的。支持向量机学习方法包含三种模型，其一为线性可分支持向量机，要求训练集线

为了更好的理解，我们再看下标i还出现在权值和权值的更新值上，这说明实际上每一个特征函数fi(x, y)都对应了一个权值wi，对于一个特定的实例来说，如果它符合f1(x, y)的规则，那么权值w1就会作用在这个实例上，也就是说在预测或者分类的时候，模型会考虑f1(x, y)所代表的特征，如果该实例不符合f2(x, y)，那么w2就不会作用在这个实例上，毕竟f2(x, y)=0，这样模型在预测或分类时，就不会考虑f2(x, y)所代表的特征，毕竟这个实例都没有这个特征，又为什么要去考虑它呢？

本文包括：最大熵模型简介 最大熵的原理 最大熵模型的定义 最大熵模型的学习 其它有关数据分析，机器学习的文章及社群1.最大熵模型简介：最大熵原理认为，学习概率模型时，在所有可能的概率模型（分布）中，熵最大的模型是最好的模型。通常用约束条件来确定概率模型的集合，所以，最大熵原理也可以表述为在满足约束条件的模型集合中选取熵最大的模型。离散随机变量X的概率分布是P(X)，则其熵是：式中，|X|是X的取值个数，当且仅当X的分布是均匀分布时右边的等号成立。这就是说，当X服从均匀分布时，.

本文包括：重要概念 逻辑斯蒂回归和线性回归 二项逻辑斯谛回归模型 逻辑斯蒂回顾与几率 模型参数估计 多项逻辑斯谛回归 其它有关数据分析，机器学习的文章及社群1.重要概念：在正式介绍逻辑斯蒂回归模型之前，需要先对一些基本概念有所了解，如果明白这些概念可以直接跳过。分布函数和密度函数：对于一个连续型随机变量，密度函数是指该变量在其可取值范围内为一个特定值的概率，分布函数即在一个特定值和小于该特定值的范围内出现的概率，可以理解为密度函数的面积比率。用逻辑斯蒂分布举例来说（下图），.

朴素贝叶斯 - 贝叶斯估计Python复现：[舟晓南：朴素贝叶斯（Bayes）模型python复现 - 贝叶斯估计；下溢出问题]在《统计学习方法》一书中，详细说明了后验概率最大化与期望风险最小化之间的关系，深入地说明了后验概率最大化的含义，但其中的推导过程有所省略，这篇文章作为补充说明。后验概率最大化的含义：书中提到，朴素贝叶斯法将实例分到后验概率最大的类中，这等价于期望风险最小化。要明白什么是期望风险最小化，首先要明白什么是期望。期望是指某件事大量发生后的平均结果，反应了随机变量平

本文包括：走近朴素贝叶斯 - 上帝到底掷不掷骰子 重要概念 贝叶斯公式的一般形式 朴素贝叶斯的基本方法 贝叶斯估计 其它有关数据分析，机器学习的文章及社群朴素贝叶斯 - 贝叶斯估计Python复现：舟晓南：朴素贝叶斯（Bayes）模型python复现 - 贝叶斯估计；下溢出问题1.走近朴素贝叶斯 - 上帝到底掷不掷骰子：上帝到底掷不掷骰子，这个问题精准地概括了相对论和量子力学之间的矛盾，即我们这个世界到底是决定的，还是概率的。上帝掷骰子吗？在我们的生活中，概率的思想实

人是群居动物，这不仅是因为整个社会运转需要各种各样的人才进行劳动分工和资源交换，还因为人本性上需要认同感，不仅是身份认同，还希望对他的行事风格的，性格的，爱好的，外表的等等方面的认同。

在《统计学习方法》的感知机算法章节中，作者提出了一个问题，即如何证明一个线性可分的数据集，可以在有限次的迭代后得到这个分离超平面。我们称在有限次迭代后获得分离超平面的性质为感知机算法的收敛性。对于一个线性不可分的数据集，感知机模型将进入无法收敛的状态，即无法获得一个可以将所有实例正确分类的分离超平面，而是在迭代过程中进入震荡。

感知机模型(Perceptron)详细解读 | 统计学习方法学习笔记 | 数据分析 | 机器学习