异常检测(四)之基于相似度的方法

异常检测:基于相似度的异常值识别方法
本文介绍了基于距离和密度的异常值处理方法,包括基于最近邻距离和基于密度的异常检测。讨论了k-距离、k领域、可达距离、局部可达密度和局部异常因子等概念,用于判断异常值。并提到了使用sklearn和pyod库进行异常检测的实际应用。

相似度两个维度:距离和密度
异常值和噪声:
噪声往往是没有规律的,特性较弱,没有分析的必要性。
异常值通常具有更高的离群程度,同时解释性更强。
因此在处理噪声时,区别出异常值与噪声、正常值的区别在异常检测中比较重要。

  1. 基于距离的异常值处理办法
    基于最近邻距离来定义异常值
    适应范围:多维数据,单维数据
    前提:异常点的 kkk 近邻距离要远大于正常点
    方法:遍历或者一些改进的方法增加距离计算的速度
    2.基于密度的异常值处理办法
    基于距离的计算值,定义k-距离、k领域、可达距离以及局部可达密度,最后得到局部异常因子,通过此因子来判断是否是异常值
    k-距离:
    在一个数据集中,以其中某一个对象为中心,对其余所有点到该对象的距离排序,距离该对象第k近的点与该对象的距离则为k-距离。
    满足:

在集合D中至少有k个点 o’,其中o′∈Dpo'∈D{p}oDp,满足d(p,o′)≤d(p,o)d(p,o')≤d(p,o)d(p,o)d(p,o)
在集合D中最多有k-1个点o’,其中o′∈Dpo'∈D{p}oDp,满足d(p,o;)<d(p,o)d(p,o;)<d(p,o)d(p,o;)<d(p,o)

k领域:
上述k-距离中,到该对象的距离小于等于k-距离的所有点的集合即为k-领域
Nk−distance(p)(P)=q∈D\p∣d(p,q)≤k−distance(p)N_{k -distance ( p )}( P ) = { q ∈ D \backslash{ p } ∣ d ( p , q ) ≤ k − d i s t a n c e ( p )}Nkdistance(p)

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值