样本相似度度量
分类时,有时需要估算样本之间的相似度,这时候就需要进行相似度度量。
常见的相似度度量有以下几种:
欧氏距离
两个样本a(x11, x12, x13, … ,x1n)和b(x21, x22, x23, x2n)的欧氏距离:
欧氏距离基于各维度特征的绝对数值,因此欧氏距离需要保证各维度指标在相同的刻度级别
标准化欧氏距离
标准欧氏距离是针对欧氏距离的缺点而作的一种改进。
其基本思路为:将原特征值转化为新的特征值,新特征值满足均值为0,方差为1,即:
这里x表示的是原特征,m表示的是原特征的均值,s表示原特征的标准差。
得到标准化欧氏距离计算公式:
如果将方差的倒数看成是一个权重,则该公式可以看成是一种加权欧氏距离。