Roe_D的博客

假设： A（女）是 长短裤都有，B 是都穿长裤（男） 则 A ∩ B ： 即穿长裤的女生 贝叶斯（可以对概率求逆） 变形： 意思是：求穿长裤的女生概率：分母为长裤人数（即 在B发生下 A 发生的概率） 已知B：比如 已知穿长裤，问是男是女 两个一模一样的碗，一号碗有30颗水果糖和10颗巧克力糖，二号碗有水果糖和巧克力糖各20颗。现在随机选择一个碗，从中摸出一颗糖，发现是水果糖。请问这颗...

图中红线代表曼哈顿距离，绿色代表欧氏距离，也就是直线距离，而蓝色和黄色代表等价的曼哈顿距离。曼哈顿距离——两点在南北方向上的距离加上在东西方向上的距离，即d（i，j）=|xi-xj|+|yi-yj|。 K近邻算法 意思就是：我输入的测试数据， 放在已经训练好的训练集 中，找与这个测试数据较近的 k 个数据，在这个k个数据点中出现最多的类别，则确定这个测试数据的类别就是这个。 接下来对KNN...

Logistic回归算法 Logistic回归是众多分类算法中的一员。通常，Logistic回归用于二分类问题，例如预测明天是否会下雨。当然它也可以用于多分类问题，不过为了简单起见，本文暂先讨论二分类问题。首先，让我们来了解一下，什么是Logistic回归。 1： Logistic回归（相当于sigmoid 函数） 假设现在有一些数据点，我们利用一条直线对这些点进行拟合(该线称为最佳拟合直线)，...

原函数 ：y=a+bx 先对损失函数进行权重求偏导，求得梯度： 我们常说的梯度，其实是指向量，其方向与切线方向相同 他们决定了a（偏置）和b（权重)的移动方向和距离 （为什么对损失函数求偏导呢，为了使得朝移动方向进行距离的变化逐渐减小损失值） 计算梯度 根据梯度调整权重大小

第一部分 使用决策树做预测需要以下过程： 1，收集数据：可以使用任何方法。比如想构建一个相亲系统，我们可以从媒婆那里，或者通过参访相亲对象获取数据。根据他们考虑的因素和最终的选择结果，就可以得到一些供我们利用的数据了。 2，准备数据：收集完的数据，我们要进行整理，将这些所有收集的信息按照一定规则整理出来，并排版，方便我们进行后续处理。 3，分析数据：可以使用任何方法，决策树构造完成之后，我们可以检...

一，Adaboost算法 Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器(弱分类器)，然后把这些弱分类器集合起来， 构成一个更强的最终分类器(强分类器)。其算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类 是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。 修改过权值的新数据集送给下层分类器进行训练，最后将每次训练得到的分类...