异常检测实战

本文深入探讨了异常检测技术,从单变量的Z-scores和箱线图方法,过渡到多变量异常检测,如EllipticEnvelope和OneClassSVM。这些方法在处理数据科学问题时,能够识别不同类型的异常值。文章强调了数据标准化的重要性,并提到了PCA和其他降维技术在异常检测中的应用。

数据科学导论 python语言实现

一、单变量异常检测(一次观测一个变量)

1.1 Z-scores 得分绝对值超过3的

1.2 箱线图

 

import numpy as np
from sklearn import preprocessing
normailized_data = preprocessing.StandardScaler().fit_transform(boston.data[:,continuous_variables])
outlier_rows,outlier_columns = np.where(np.abs(normalized_data)>3)

单变量方法不能检测哪些不是极端值的异常值,然而,如果它发现两个或多个变量的组合出现不正常的值,所涉及的不是极端值的概率会大,因此多变量检测应运而生

 

 

二、多变量异常检测(同时考虑多个变量) 

2.1 covariance.EllipticEnvelope类:

假设全部数据可以表示成基本的多元高斯分布,.EllipticEnvelope是一个试图

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值