样本相似度度量

样本相似度度量

分类时，有时需要估算样本之间的相似度，这时候就需要进行相似度度量。
常见的相似度度量有以下几种：

欧氏距离

两个样本a(x₁₁, x₁₂, x₁₃, … ,x_1n)和b(x₂₁, x₂₂, x₂₃, x_2n)的欧氏距离：

欧氏距离基于各维度特征的绝对数值，因此欧氏距离需要保证各维度指标在相同的刻度级别

标准化欧氏距离

标准欧氏距离是针对欧氏距离的缺点而作的一种改进。
其基本思路为：将原特征值转化为新的特征值，新特征值满足均值为0，方差为1，即：

这里x表示的是原特征，m表示的是原特征的均值，s表示原特征的标准差。
得到标准化欧氏距离计算公式：

如果将方差的倒数看成是一个权重，则该公式可以看成是一种加权欧氏距离。

曼哈顿距离

曼哈顿距离也叫做城市街区距离(city block)。
(1) 二维平面上两点a(x₁,y₁)和b(x₂,y₂