机器学习-周志华-个人练习11.3

11.3 Relief算法是分别考察每个属性的重要性。试设计一个能考虑每一对属性重要性的改进算法。

首先，我们知道单属性对应的统计量计算公式如下：

$$\displaystyle\delta^j=\sum_{i}\left(-\mathrm{diff}(x_{i}^{j},x_{i,nh}^{j})^2+\mathrm{diff}(x_{i}^{j},x_{i,nm}^{j})^2\right)$$ 上式中 $x_{i}^{j}$, $x_{i,nh}^{j}$, $x_{i,nm}^{j}$等都是标量，因此可以考虑将其变为向量 $\vec{x}_{i}^{j1,j2}$, x⃗ j1,j2i,n