乐乐什么都有

（听课记得笔记，大部分是课上的课件内容，发博客作为纪录方便查阅） 感知机–入门垫脚石 如果找不到好的直线，就要在差的线里面找到一个相对好的线（量化直线有多好）。 再进一步就是如果我们把所有分错的点和直线的距离求和，让这段求和的距离最小，那么这条直线就是我们要找的直线。 段落总结 一条直线如果能一个点都不分错的话，就是一条好的分类直线。 模型要尽可能的找到好的直线。 如果没有好的直线，在差的直线中要找到好的直线。 判断直线多差的方式：分错的点到直线之间的距离求和。 1.感知机模型 确定终极目标：最后的目标

第一章：统计学习方法概论 1.监督学习（Supervised learning） 监督学习的实现步骤： 得到一个有限的训练数据集合 选定模型的假设空间，也就是所有的备选模型 确定模型选择的准则，即学习的策略 实现求解最优模型的算法 通过学习方法选择最优模型 利用学习的最优模型对新数据进行预测或分析 在模型知道每一个样本的标签时，所进行的学习就是监督学习。监督学习与无监督学习的主要区别在于训练数据集有没有label 训练集： T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,

第五章：决策树 决策树（decision tree）是一种分类与回归方法，它可以认为是if-then结构 5.1 决策树模型与学习 5.1.1 决策树模型 定义 5.1 （决策树）： 分类决策树模型是一种描述实例进行分类的树形结构，决策树由节点（node），和有向边（directed edge）组成。节点由两种类型：内节点（internal tree）和叶节点（leaf node），内部节点表示一个特征或者属性，叶节点表示一个类 5.1.2 决策树与if-then规则 5.1.3 决策树与条件概率分布 决策