相似度两个维度:距离和密度
异常值和噪声:
噪声往往是没有规律的,特性较弱,没有分析的必要性。
异常值通常具有更高的离群程度,同时解释性更强。
因此在处理噪声时,区别出异常值与噪声、正常值的区别在异常检测中比较重要。
- 基于距离的异常值处理办法
基于最近邻距离来定义异常值
适应范围:多维数据,单维数据
前提:异常点的 kkk 近邻距离要远大于正常点
方法:遍历或者一些改进的方法增加距离计算的速度
2.基于密度的异常值处理办法
基于距离的计算值,定义k-距离、k领域、可达距离以及局部可达密度,最后得到局部异常因子,通过此因子来判断是否是异常值
k-距离:
在一个数据集中,以其中某一个对象为中心,对其余所有点到该对象的距离排序,距离该对象第k近的点与该对象的距离则为k-距离。
满足:
在集合D中至少有k个点 o’,其中o′∈Dpo'∈D{p}o′∈Dp,满足d(p,o′)≤d(p,o)d(p,o')≤d(p,o)d(p,o′)≤d(p,o)
在集合D中最多有k-1个点o’,其中o′∈Dpo'∈D{p}o′∈Dp,满足d(p,o;)<d(p,o)d(p,o;)<d(p,o)d(p,o;)<d(p,o)
k领域:
上述k-距离中,到该对象的距离小于等于k-距离的所有点的集合即为k-领域
Nk−distance(p)(P)=q∈D\p∣d(p,q)≤k−distance(p)N_{k -distance ( p )}( P ) = { q ∈ D \backslash{ p } ∣ d ( p , q ) ≤ k − d i s t a n c e ( p )}Nk−distance(p)
异常检测:基于相似度的异常值识别方法

本文介绍了基于距离和密度的异常值处理方法,包括基于最近邻距离和基于密度的异常检测。讨论了k-距离、k领域、可达距离、局部可达密度和局部异常因子等概念,用于判断异常值。并提到了使用sklearn和pyod库进行异常检测的实际应用。
最低0.47元/天 解锁文章
739

被折叠的 条评论
为什么被折叠?



