k近邻法

1 k近邻算法

  k近邻算法(k-nearest neighbor k-NN):是一种基本分类与回归方法。给定一个训练数据集，对新的输入实例，在训练集中找到与该实例最近邻的k个实例，这k个实例的多数属于某个类，就把改输入实例分为这个类。
  算法3.1(k近邻法)

输入：训练数据集：
T = { ( x 1 , y 1 ) , ( x 2 , y 2 ) , . . . , ( x N , y N ) } T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\} T={(x1​,y1​),(x2​,y2​),...,(xN​,yN​)}
其中，$x_i\in \chi \subseteq R^n$为实例的特征向量， y i ∈ Y = { c 1 , c 2 , . . . , c k } y_i\in Y=\{c_1,c_2,...,c_k\} yi​∈Y={c1​,c2​,...,ck​}为实例的类别，$i=1,2,...,N$；实例特征向量$x$；
输出：实例$x$所属的类$y$.
  （1）根据给定的距离度量，在训练集$T中找出与x最近邻的k个点，涵盖这k个点的x的邻域记作N_k(x)$；
  （2）$在N_k(x)中根据分类决策规则（如多数表决）决定x的类别y$：
$$y=argmax\sum _{x_i\in N_k(x)}I(y_i=c_i),i=1,2,...,N;j=1,2,...,K$$
其中，$I为指标函数，即当y_i=c_i时I为1，否则I为0.$
  当$k=1的情况，称为最近邻算法。对于输入的实例点x，最近邻法将训练数据集中与x最近邻点的类作为x的类。k$近邻法没有显著的学习过程。

---

2 k近邻模型

  三个基本要素——距离度量、k值的选择和分类决策规则

2.1 距离度量(也可采用相似度方法)

  特征空间中两个实例点的距离是两个实例点相似程度的反应。四种计算距离的方法其中 x i , x i ∈ 特 征 空 间 ， x i = { x i ( 1 ) , x i ( 2 ) , . . . , x i ( n ) } ， x j = { x j ( 1 ) , x j ( 2 ) , . . . , x j ( n ) } x_i,x_i\in 特征空间，x_i=\{x_i^{(1)},x_i^{(2)},...,x_i^{(n)}\}，x_j=\{x_j^{(1)},x_j^{(2)},...,x_j^{(n)}\} xi​,xi​∈特征空间，xi​={xi(1)​,xi(2)​,...,xi(n)​}，xj​={xj(1)​,xj(2)​,...,xj(n)​}，定义如下：
$L_p距离$
$$L_p(x_i,x_j)=(\sum _{l=1}^n|x_i^{(l)}-x_j^{(l)}{|}^p{)}^{\frac{1}{p}}$$
欧式距离
$$L_2(x_i,x_j)=(\sum _{l=1}^n|x_i^{(l)}-x_j^{(l)}{|}^2{)}^{\frac{1}{2}}$$
曼哈顿距离
$$L_1(x_i,x_j)=\sum _{l=1}^n|x_i^{(l)}-x_j^{(l)}|{)}^{\frac{1}{2}}$$
当$p=\infty 时，是各个坐标距离的最大值$
$$L_{\infty }(x_i,x_j)=ma{x}_l|x_i^{(l)}-x_j^{(l)}|$$

2.2 k值的选择

  k值如果选择较小，那么相当于用较小的邻域中的训练实例进行预测，“学习”的近似误差会减小，但是“学习”的估计误差会增大，并且预测结果对紧邻的实例点非常敏感，如果实例点恰巧是噪声则会出错。换句话说容易发生过拟合。
  k值如果过大，优点是可以减少学习的误差。缺点就是近似误差会增大。这时与输入实例较远的（不相似）训练实例也会对预测其作用，使预测发生错误。k值的增大意味着整体模型变得简单。
应用中一般采用一个比较小的值，通常采用交叉验证的方法来选取最优的k值

• 近似误差：可以理解为对现有训练集的训练误差。
• 估计误差：可以理解为对测试集的测试误差。

2.3 分类决策规则

  多数表决规则：

如果分类的损失函数为0-1损失函数，分类函数为:
f : R n → { c 1 , c 2 , . . . , c k } f:R^n\rightarrow\{c_1,c_2,...,c_k\} f:Rn→{c1​,c2​,...,ck​}
那么误分类的概率是：
$$P(Y̸=f(X))=1-P(Y=f(X))$$
对给定的实例$x\in \chi ，其最近邻的k个训练实例点构成集合N_k(x).如果涵盖N_k(x)的区域的类别是c_j，那么$误分类率是：
$$\frac{1}{k}\sum _{x_i\in N_k(x)}I(y_i̸=c_i)=1-\sum _{x_i\in N_k(x)}I(y_i=c_i)$$
要使误分类率最小即经验风险最小，就要使${\sum }_{x_i\in N_k(x)}I(y_i=c_i)$最大，所以多数表决规则等价于经验风险最小化。

---

3 k近邻法的实现：kd树（存储k维空间数据的树结构）

  实现k近邻法主要考虑的问题是如何对训练数据进行快速k近邻搜索。实现k近邻法最简单的方法是线性扫描，但是当训练集很大时，计算非常耗时。为了提高k近邻搜索效率，可以考虑kd树方法减少计算距离的次数。
  kd树：是一种对k维空间中的实例点进行存储以便对其进行快速检索，kd树是一个二叉树，每个节点对应于一个k维超矩形区域。
  算法3.2构造平衡kd树

输入： k 维 空 间 数 据 集 T = { x 1 , x 2 , . . . , x N } ， 其 中 x i = ( x i ( 1 ) , x i ( 2 ) , . . . , x i ( k ) ) T k维空间数据集T=\{x_1,x_2,...,x_N\}，其中x_i=(x_i^{(1)},x_i^{(2)},...,x_i^{(k)})^T k维空间数据集T={x1​,x2​,...,xN​}，其中xi​=(xi(1)​,xi(2)​,...,xi(k)​)T
输出：kd树
（1）开始：构造根节点，根节点对应于包含T的k维空间的超矩形区域。
  选择$x^{(1)}为坐标轴，以T中所有实例的x_{(1)}$坐标的中位数为切分点，将根节点对应的超矩形区域且分为两个子区域。切分由通过切分点并于坐标轴x^{(1)}垂直的超平面实现。
  由根节点生成深度为1的左右子节点：左子节点对应左边$x^{(1)}小于切分点的子区域，右子节点对应域坐标x^{(1)}大于切分点的子区域。$
  将落在切分超平面上的实例点保存在根节点。
（2）重复：对深度为j的节点，选择$x^{(l)}为切分的坐标轴，l=j\%k+1，以该节点的区域中所有实例的x^{(l)}坐标的中位数为切分点，将该节点对应的超矩形趋于切分为两个子区域。切分由通过切分点并于坐标轴x^{(l)}垂直的超平面实现。$
  由改节点生成深度为j+1的左右子结点：左子节点对应坐标$x^{(l)}小于切分点的子区域，右子节点对应坐标x^{(l)}大于切分点的子区域。$
  将落在切分超平面上的实例点保存在该节点。
（3）知道两个子区域没有实例存在时停直。从而形成kd树的区域划分。

  算法3.3 用kd树的最近邻搜索

输入：已构造的kd树；目标点x
输出：x的最近邻点
（1）在kd树中找出包含目标点x的叶节点：从根节点出发，递归地向下访问kd树。若目标点x当前维的坐标小于切分点的坐标，则移动到左子节点，否则移动到右子节点。直到子节点为叶节点为止。
（2）以此叶节点为“当前最近点”
（3）递归地向上回退，在每个节点进行以下操作：
 （a）如果该节点保存的实例点比当前最近点距离目标点更近，则以该实例点为“当前最近点”。
 （b）当前最近点一定存在于该节点一个子节点对应的区域。检查该子节点的父节点的另一子节点对应的区域是否由更近的点。具体地，检查另一子节点对应的区域是否与以目标为球心、以目标点与“当前最近点”间的距离为半径的超球体相交。
  如果相交，可能在另一个子节点对应的区域内存在距目标点更近的点，移动到另一个子节点。接着，递归地进行搜索。
  如果不相交，向上回退
（4）当回退到根节点时，搜索结束。最后“当前最近点”即为x的最近邻点。
  如果实例点是随机分布的kd树搜索的平均计算复杂度是O(logN)，这里N是训练实例数。kd树更适用于训练实例数远大于空间维度时的k近邻搜索。当空间维数接近训练实例数时，它的效率会迅速下降，几乎接近线性扫描。