swan777的博客

核函数为了获得上图所示的判定边界，我们的模型可能是我们可以用一系列的新的特征 f 来替换模型中的每一项。例如令得到 hθ(x)=f1+f2+...+fn。然而，除了对原有的特征进行组合以外，有没有更好的方法来构造 f1,f2,f3？我们可以利用核函数来计算出新的特征。高斯核函数为实例 x 中所有特征与地标 l(1)之间的距离的和。我们通...

K-Means 算法步骤1、选择 K 个随机的点，称为聚类中心（cluster centroids）2、把每个数据样本划分到最近的中心点那一簇； D(xi)=argmin||xi−μr||22r=1,2,...kselected 样本到哪个簇距离最小，就属于哪个簇。3、划分完后，更新每个簇的中心，即把该簇的所有数据点的坐标加起来去平均值。求中心点距离一般采用...

数据压缩不仅允许我们压缩数据，因而使用较少的计算机内存或磁盘空间，但它也让我们加快我们的学习算法。 可以把任何维度的数据降到任何想要的维度。 降维的算法只负责减少维数，新产生的特征的意义就必须由我们自己去发现了。 主成分分析（PCA）是最常见的降维算法。 在 PCA 中，我们要做的是找到一个方向向量（Vector direction），当我们把所有的数据都 投射到该向量上...

高斯分布，也称为正态分布。通常如果我们认为变量 x 符合高斯分布 x~N(μ,σ2)则其概率密度函数为： ：均值 ：方差我们可以利用已有的数据来预测总体中的 μ 和 σ2 的计算方法如下：注：机器学习中对于方差我们通常只除以 m 而非统计学中的（m-1）。只要你有一个还算大的训练集，到底是选择使用 1/m 还是 1/(m-1)其实区别很小。在机器学习领域大...

异常检测算法对于给定的数据集 x(1),x(2),...,x(m) ，有m个样本，每个样本有n个特征，建立概率模型 p(x)，找出哪些特征出现的概率高，哪些特征出现的概率低。 p(x)=p(x_1)*p(x_2)*p(x_3)......*p(x_n) p(x)=第一个特征X_1的概率*第二个特征X_2的概率*第三个特征X_3的概率......*第n个特征X_n的概率 假设：每一个特征x...