qq_34327821的博客

在支持向量机理解上花了很长时间，也看了一些别人的博客，始终无法理解函数间隔到底是什么，和几何间隔到底区别是什么。通过去抠书上字眼，如李航的统计学习方法，上面对于函数间隔和几何间隔描述分别是表示训练数据集到超平面距离，表示样本数据集到超平面距离，似乎没有什么区别。常见公式定义如下：这个公式看起来有点高冷，心中还是疑惑云云！好像函数间距和几何间距是一个东西，没什么区别嘛，至少从定义上看是这...

k-means算法的原理作为无监督算法，看起来和knn算法挺像的，但是knn作为有监督算法，还是有一定区别至于k-means算法原理及其伪代码就不说了。在实现k-means算法中，还是有些地方需要注意的，废话少说，还是来先看看代码。import numpyimport matplotlib.pyplot as pltdef readdata(filename):#读入数据 zhu...

PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。网上关于PCA的文章有很多，但是大多数只描述了PCA的分析过程，而没有讲述其中的原理。这篇文章的目的是介绍PCA的基本数学原理，帮助读者了解PCA的工作机制是什么。当然我并不打算把文章写成纯数...

 看了一些前辈关于PCA算法博客之后，心里还是有些想法，首先的是别人写的很好，自愧才疏学浅，要多向他们学习，在他们博客里，还是有些点由于鄙人才学之后才想清楚的，所以一一在此做个说明及自己练习下。 首先说的是PCA算法到底是什么，这些可以在我前面转载的博客里说的很清楚，核心就是如何找到几个特征向量，而一个特征向量代表是一个目标基一部分，若原矩阵沿着这几个特征向量分解（）这几个特征向量构成一个基）...

　　　奇异值分解(Singular Value Decomposition，以下简称SVD)是在机器学习领域广泛应用的算法，它不光可以用于降维算法中的特征分解，还可以用于推荐系统，以及自然语言处理等领域。是很多机器学习算法的基石。本文就对SVD的原理做一个总结，并讨论在在PCA降维算法中是如何运用运用SVD的。原文链接https://www.cnblogs.com/pinard/p/6251584...