qq_29212049的博客

读书笔记仅供个人学习使用 本文主要参考书籍为《统计学习方法》（李航）第二版 参考 Sunning_001的博客 决策树决策树的定义if-then 的理解条件概率分布的理解决策树学习特征选择信息增益 决策树是一种基本的分类与回归方法。 决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。 （1）是if-then规则的集合 （2）是定义在特征空间与类空间上的条件概率分布 模型的主要...

读书笔记仅供个人学习使用 本文主要参考书籍为《统计学习方法》（李航）第二版 参考博文 带你搞懂朴素贝叶斯分类算法 朴素贝叶斯朴素贝叶斯法的学习与分类基本方法朴素贝叶斯法的参数估计极大似然估计贝叶斯估计朴素贝叶斯算法简单例子 朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。 对于给定的训练数据集 (1)首先基于特征条件独立假设学习输入/输出的联合概率分布； (2)然后基于此模型，对给定的输...

读书笔记（3）——K近邻算法K近邻算法基础算法 K近邻算法 k近邻法是一种基本分类与回归方法。 k近邻法假设给定一个训练数据集，其中的实例类别己定。分类时，对新的实例，根据其k个最近邻的训练实例的类别通过多数表决等方式进行预测。 k近邻法实际上利用训练数据集对特征向量空间进行划分，并作为其分类的“模型”。k值的选择、距离度量及分类决策规则是k近邻法的三个基本要素。 基础算法 对于（1）与（2）用文...

感知机 是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面，属于判别模型。 感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化求得感知机模型。 即寻找一个超平面将把线性可分数据集分布在这个超平面的两侧。 线性可分数据集：存在某个...

统计学习方法——读书笔记（1）统计学习基本概念新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 统计学习基本概念...