Carson's Blog

朴素贝叶斯法 机器学习方法三要素 模型: 基于特征条件独立的假设学习数据的联合概率分布作为预测的模型 策略: 利用贝叶斯定理求出后验概率最大的类别作为输出类别 算法: 极大似然估计 或 贝叶斯估计。 基本介绍 1．朴素贝叶斯(naive Bayes)法是基于 贝叶斯定理和特征条件独立假设的分类方法, 这些假设使得朴素贝叶斯变得简单, 但会牺牲一定的分类准确率。 过程: 对于给定的训练数据集,首先基于特征条件独立的假设学习数据的联合概率分布作为预测的模型,再对于给定的输入x，利用贝叶斯定理求出后验概率最大

K近邻法(KNN) 介绍 1．kkk近邻法是基本且简单的分类与回归方法。kkk近邻法的基本做法是：对给定的训练实例点和输入实例点，首先确定输入实例点的kkk个最近邻训练实例点，然后利用这kkk个训练实例点的类的多数来预测输入实例点的类。 2．kkk近邻模型对应于基于训练数据集对特征空间的一个划分。kkk近邻法中，当训练集、距离度量、kkk值及分类决策规则确定后，其结果唯一确定。 3．kkk近邻法三要素：距离度量、kkk值的选择和分类决策规则。常用的距离度量是欧氏距离及更一般的pL距离。kkk值小时，kkk近

机器学习原理02(感知机) 引入 感知机是什么?使用的前提是? 感知机是一个二元的线性分类器.其是 神经网络和支持向量机的基础。 使用的前提是数据集是线性可分的,才能找到一个超平面来分隔正负例点,故线性不可分的数据集不能用感知机。 感知机能解决什么问题? 解决二分类问题 可以找到一个能将两类样本分开的超平面。 感知机 1．感知机是根据输入实例的特征向量xxx对其进行二类分类的线性分类模型： f(x)=sign⁡(w⋅x+b) f(x)=\operatorname{sign}(w \cdot x+b)

机器学习原理01 介绍 为什么需要机器学习? 海量的数据要发挥价值：必须要引入机器学习的方法。 机器学习在实际生活中的应用? 自动驾驶,计算机视觉,生命科学,个性化推荐… 人类预测未来的做法? 规律提炼: 对过去大量经验的总结。经验+思维=规律 规律利用: 通过规律预测未来。新现象+规律=决策 机器预测未来的做法? 训练模型: 数据+机器学习算法=模型 模型应用:新数据+模型=决策 什么是机器学习算法? 计算机从 数据中 产生 模型 的算法,称为 机器学习算法。 机器学习和数据挖掘的关系? 机器