yuannaiqing的博客

目录5.1 决策树模型与学习5.1.1 决策树模型5.1.2 决策树与 if-then 规则5.1.3 决策树与条件概率分布5.1.4 决策树学习决策树（decision tree）是一种基本的分类与回归方法。在分类问题中，它可以认为是 if-then 规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。优点是模型具有可读性，分类速度快。决策树学习通常包括3个步骤：特征选择、决策树的生成、决策树的修剪。5.1 决策树模型与学习5.1.1 决策树模型定义 5.1 （决策树）分类决策树模型

目录4.1 朴素贝叶斯法的学习与分类4.1.1 基本方法4.1.2 后验概率最大化的含义朴素贝叶斯法（naive Bayes）是基于贝叶斯定理与特征条件独立假设的分类方法。朴素贝叶斯法与贝叶斯估计（Bayesian estimation）是不同的概念。4.1 朴素贝叶斯法的学习与分类4.1.1 基本方法设输入空间 χ∈Rn\chi \in R^nχ∈Rn 为 nnn 维向量的集合。X 是定义在输入空间 χ\chiχ 上的随机变量，Y 是定义在输出空间 Y 上的随机变量，输出空间为类标记集合{c1,c

目录3.1 k 近邻算法3.2 k 近邻模型3.2.1 模型3.2.1 距离度量3.2.3 k 值的选择3.2.4 分类决策规则3.3 k 近邻法的实现： kd树3.3.1 构造 kd 树3.3.2 搜索 kd 树本章概要本章代码与练习k 近邻法（k-nearest neighbor，k-NN）是一种基本分类与回归算法。输入实例的特征向量，输出分类。k 近邻法1968年由 Cover 和 Hart 提出。3.1 k 近邻算法k 近邻算法简单、直观：给定一个训练数据集，对新的输入实例，在训练数据集中找到

来自百度公开课

抄书无用！目录2.1 感知机模型2.2 感知机学习策略2.2.1 数据集的线性可分性2.2.2感知机（perceptron）是二分类的线性分类模型，属于判别模型。导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。感知机1957年由 Rosenblatt 提出，是神经网络与支持向量机的基础。2.1 感知机模型感知机的几何解释：w⋅x+b=0w \cdot x +b =0w⋅x+b=0 是对应于特征空间 RnR^nRn 中的一个超平面 S，其中 w 是超平面额法向量，b 是

目录1.1 统计学习统计学习的特点统计学习的对象统计学习的目的统计学习的方法统计学习的研究统计学习的重要性1.2 统计学习的分类1.2.1 基本分类监督学习无监督学习强化学习半监督学习与主动学习监督学习是从标注数据中学习模型的机器学习问题。1.1 统计学习统计学习（Statistical learning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习也称为统计机器学习。统计学习的特点学习的定义：如果一个系统学习的定义如果一个系统能够通过执行某个过程改进它的