人之初，性贪婪

支持向量机属于监督学习，是一种二类分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，支持向量机包括核心技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略是间隔最大化，可形式化为一个求解凸二次规划的问题。支持向量机学习方法包含构建由简至繁的模型：线性可分支持向量机、线性支持向量机及非线性支持向量机。当训练数据线性可分时，通过硬间隔最大化，学习一个线性的分类器，即线性可分支持向量...

回归是有达尔文表弟提出的，这个梗想了解的可以自己查，他说‘回归’反映了系统的随机运动总是趋向于其整体运动规律的趋势。以下将介绍：（1）线性回归（2）二分类：Logistic回归（3）多分类：Softmax回归（4）广义线性模型1.1.1.1. 线性回归线性回归就是用一个超平面去拟合样本点的标签：对于一维的情况，就是用一条直线去拟合样本点，为方便把偏置b记到权重向量中，。1.求解回归任务，常用的损失...

1.1.1. 朴素贝叶斯贝叶斯公式：换个表达形式就会明朗很多，如下：我们最终求的p(类别|特征)即可！就相当于完成了我们的任务。例如： 如果一对男女朋友，男生想女生求婚，男生的四个特点分别是不帅，性格不好，身高矮，不上进，请你判断一下女生是嫁还是不嫁？这是一个典型的分类问题，转为数学问题就是比较p(嫁|(不帅、性格不好、身高矮、不上进))与p(不嫁|(不帅、性格不好、身高矮、不上进))的概率，谁的...

1.1. 决策树度量方法：信息增益（ID3）信息增益率（C4.5）基尼指数（CART）对一个给定样本分类所需要的信息熵： S：是s个数据样本的集合m：类别标签具有m个：定义m个不同类：是类中样本数：任意样本属于的概率，信息期望： 信息增益： 例如：  1.1.1. 迭代Dichotomiser3（ID3）（1）给定样本分类的信息熵类别标签S被分为两类：买或不买。S1(买)=640；S2(不买)=3...