qq_43887432的博客

决策树 分类 分类是指根据样本数据的特征将其类型确定为某一已有的类别。分类是一种监督学习方法，必须事先明确知道各个类别的信息。 在面向海量数据进行分类时，为了降低使数据满足分类算法要求而所需的预处理代价，可以选择用聚类算法。 决策树 决策树是一种依托策略抉择而建立起来的树。是一种代表对象属性与对象值之间映射关系的预测模型。树中每个节点用于表示某个对象，每个分叉路径用于表示某个可能的属性值，从根节点到某叶节点所经历的路径所表示的对象值则对应该叶节点。决策树学习的目的是产生一个泛化能力强的决策树。 信息增益 构

KNN学习 KNN学习是一种统计分类器，属于惰性学习。 KNN基本思想 输入没有标签（没有经过分类）的新数据，首先提取新数据的特征并与测试集中的每一个数据特征进行比较；然后从样本中提取出k个最邻近（最相似）数据特征的分类标签，统计这k个最邻近数据中出现次数最多得分类，将其作为新数据的类别。 KNN讲解 分类 KNN按照一定规则将相似的数据样本进行归类。在KNN中，首先计算待分类数据特征与训练数据特征之间的距离并排序，取出距离最近的k个训练数据特征；然后根据这k个训练数据特征所属的类别来判定新样本的类别：如果

K-Means K-Means是基于数据划分的无监督聚类算法，可以理解为无监督的分类方法，也就是数据完全没有标签，要计算机自行根据数据间的相似程度对数据进行类别划分，以决定哪些数据属于一类。 样本集合为 D={xj}j=1nD={\{x_j\}}^{n}_{j=1}D={xj​}j=1n​，要将这些样本集中的样本划分为k类：S={s1,s2,...sn}S=\{s_1,s_2,...s_n\}S={s1​,s2​,...sn​}。K-Means做的工作是最小化下面的目标函数： ℓk−means(S)=Σi=