定义 N ( p , k ) N\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right) N(p,k) 为 p p p 的 k k k 近邻(即与目标最接近的前 k k k个样本):
N ( p , k ) = { g 1 0 , g 2 0 , ⋯ , g k 0 } , ∣ N ( p , k ) ∣ = k N\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right){\rm{ = }}\left\{ {{\mathop{\rm g}\nolimits} _{\rm{1}}^{\rm{0}} , {\mathop{\rm g}\nolimits} _{\rm{2}}^{\rm{0}}, \cdots , {\mathop{\rm g}\nolimits} _{\rm{k}}^{\rm{0}}} \right\}, \left| {N\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right)} \right| = {\rm{k}} N(p,k)={g10,g20,⋯,gk0},∣N(p,k)∣=k
显而易见,如果A与B相似,那么B与A也一定相似。因此可以定义目标 p p p的 k k k互近邻 R ( p , k ) R\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right) R(p,k)为:
R ( p , k ) = { g i ∣ ( g i ∈ N ( p , k ) ) ∩ ( p ∈ N ( g i , k ) ) } R\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right){\rm{ = }}\left\{ {{{\mathop{\rm g}\nolimits} _{\rm{i}}}{\rm{|}}\left( {{{\mathop{\rm g}\nolimits} _{\rm{i}}} \in N\left( {{\mathop{\rm p}\nolimits} {\rm{, k}}} \right)} \right) \cap \left( {{\mathop{\rm p}\nolimits} \in N\left( {{{\mathop{\rm g}\nolimits} _{\rm{i}}}{\rm{, k}}} \right)} \right)} \right\} R(p,k)={gi∣(gi∈N(p,k))∩(p∈N(gi,k))}
即 p p p与 g i g_i gi互为近邻。显然, k k k互近邻比 k k k近邻更加接近于 p p p。