4.1-4.3 数据预处理-清洗-变换-离散化

最新推荐文章于 2022-05-19 08:34:06 发布

Dr_David_S

最新推荐文章于 2022-05-19 08:34:06 发布

阅读量4.2k

点赞数 1

CC 4.0 BY-SA版权

分类专栏：大数据入门文章标签： python 大数据

本文链接：https://blog.youkuaiyun.com/qq_27469517/article/details/53482563

本文介绍了数据预处理的三个关键步骤：数据清洗、数据变换和连续属性离散化。在数据清洗阶段，通过使用Python处理无关、缺失和异常数据，并利用.loc函数修正问题。在数据变换部分，涉及数据的规范化处理，以适配后续分析。最后，文章讨论了连续属性离散化的方法，尽管提供的代码存在一些问题。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

整个第四章都是数据预处理。

4.1是数据清洗。就是处理无关数据，缺失或者异常数据等等。

具体看书，就不赘述了，还是上代码实践。

书上给的代码是有问题的！

#拉格朗日插值代码
import pandas as pd #导入数据分析库Pandas
from scipy.interpolate import lagrange #导入拉格朗日插值函数

inputfile = 'data/catering_sale.xls' #销量数据路径
outputfile = 'tmp/sales.xls' #输出数据路径

data = pd.read_excel(inputfile) #读入数据
data[u'销量'][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None #过滤异常值，将其变为空值

#自定义列向量插值函数
#s为列向量，n为被插值的位置，k为取前后的数据个数，默认为5
def ployinterp_column(s, n, k=5):
  y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取数
  y = y[y.notnull()] #剔除空值
  return lagrange(y.index, list(y))(n) #插值并返回拉格朗日插值结果

#逐个元素判断是否需要插值
for i in data.columns:
  for j in range(len(data)):
    if (data[i].isnull())[j]: #如果为空即插值。
      data[i][j] = ployinterp_column(data[i], j)

data.to_excel(outputfile) #输出结果，写入文件

究其原因，应该是

data[u'销量'][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None #过滤异常值，将其变为空值

这句话有问题。

改正方法主要是 .loc 函数进行修改。

.loc 函数主要是选定指定列操作，参见 http://blog.youkuaiyun.com/chixujohnny/article/details/51095817

参考下面这个链接

http://blog.youkuaiyun.com/o1101574955/article/details/51627401

给出了修改版：

# -*- coding:utf-8 -*-
#拉格朗日插值代码
import pandas as pd #导入数据分析库Pandas
from scipy.interpolate import lagrange #导入拉格朗日插值函数

inputfile = 'data/catering_sale.xls' #销量数据路径
outputfile = 'tmp/sales.xls' #输出数据路径

data = pd.read_excel(inputfile) #读入数据
#data[u'销量'][(data[u'销量'] < 400) | (data[