去哪儿网预处理和分析

最新推荐文章于 2024-11-18 07:34:04 发布

昵称有何用

最新推荐文章于 2024-11-18 07:34:04 发布

阅读量364

点赞数

文章标签： python

本文链接：https://blog.youkuaiyun.com/qq_66150978/article/details/122331300

版权

该博客主要展示了如何使用Python进行数据清洗，包括读取CSV文件，处理中文编码，利用pandas进行数据描述性统计，检查并处理缺失值，以及识别并过滤异常值。博主通过实例演示了如何从'出发地'和'路线名'中填充缺失值，以及利用标准化方法识别和移除价格领域的异常值。此外，还涉及到了数据的分箱统计和可视化，以及根据'星级'字段进行数据转换和处理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import numpy as np
import pandas as pd

df=pd.read_csv('C:/Users/xiaoli/data/qunar_freetrip.csv',encoding='gbk',sep='\t')
df.head()

df.describe()

df.info()

df.columns 

data=df.rename(columns=lambda x: x.strip())
data.head(2)

data.columns

data1=data[['出发地', '目的地', '价格', '节省', '路线名', '酒店']]
data1.head(2)

data1.isnull().sum()

data1.shape

data1[data1['出发地'].isnull()]

type(data1.路线名)

data1.路线名.str.slice(0,2)

data1.loc[data1['出发地'].isnull(),'路线名'].str.slice(0,2).values

data1.loc[data1['出发地'].isnull(),'出发地']

data1.loc[data1['出发地'].isnull(),'出发地']=data1.loc[data1['出发地'].isnull(),'路线名'].str.slice(0,2).values

data1.iloc[[1864,1930]]

data1.isnull().sum()

data1[data1['目的地'].isnull()]

data1.loc[data1['目的地'].isnull(),'目的地']=data1.loc[data1['目的地'].isnull(),'路线名'].str.slice(3,5).values

data1.iloc[1875]

data1.isnull().sum()

data2=data1.dropna()
data2

data2.isnull().sum()

data2.duplicated().sum()

data2=data2.drop_duplicates()
data2

data2.duplicated().sum()

data2.价格.describe()

data2[data2.价格>3000]

standard=(data2.价格-data2.价格.mean())/data2.价格.std()
data2[standard.abs()>3]

data3=data2.drop(data2[standard.abs()>3].index,axis=0)
data3

data3.info()

data3[['酒店名','类型','星级']]=data3.酒店.str.split(' ',2,True)

data3.head(2)

data3['星级']=data3.星级.str.slice(0,3).astype(np.float32)

data3.info()

data3.to_csv('data/1.csv',encoding='gbk',sep=',')

data3.价格.describe()

bins=[0,500,1000,2000,3000,4000,5000,6000,7000]
pd.cut(data3.价格,bins).value_counts()

pd.cut(data3.价格,bins).value_counts().plot.bar(rot=20)

dataCD=data3[data3.出发地=='成都']
dataCD

pd.cut(dataCD.价格,bins).value_counts().plot.bar(rot=20)

data3[data3['星级'].isnull()]              

data3.loc[data3['星级'].isnull(),'类型'].str.slice(0,3).values

data3.loc[data3['星级'].isnull(),'星级']=data3.loc[data3['星级'].isnull(),'类型'].str.slice(0,3).values
data3

data3.to_csv('data/2.csv',encoding='gbk',sep=',')

data3.星级.isnull().sum()

data3.星级

data3.info()

data3.星级.describe()

data3['星级']=data3.星级.str.slice(0,3).astype(np.float32)

data3.info()

bins=[0,1,2,3,4,5]
pd.cut(data3.星级,bins).value_counts()

pd.cut(data3.星级,bins).value_counts().plot.bar(rot=20)