damant的专栏

先简要介绍knn——K近邻算法和kd-tree——kd树，然后介绍matlab环境中有关使用kd树的函数。k-d树（k-dimensional树的简称），是一种分割k维数据空间的数据结构。主要应用于多维空间关键数据的搜索（如：范围搜索和最近邻搜索）。这里用的是在VLFeat 实现的kd树，其是一个开源的计算机视觉库，实现了 SIFT,MSER, k-means, hierarchical k-means, aggl

特征值分解：从线性空间的角度看，在一个定义了内积的线性空间里，对一个N阶对称方阵进行特征分解，就是产生了该空间的N个标准正交基，然后把矩阵投影到这N个基上。N个特征向量就是N个标准正交基，而特征值的模则代表矩阵在每个基上的投影长度。 特征值越大，说明矩阵在对应的特征向量上的方差越大，功率越大，信息量越多。PCA降维：经过特征值分解，已经得到的N个特征向量和对应的特征值。根据特征值的模的大小，取前m