第二章：数据清洗及特征处理

总结

1.对缺失值观察

有以下两种方法

df.info()  #可以直接看到不缺失的值的数量
df.isnull().sum() # 统计缺失值的数量

单独提取 Age Cabin Embarked这三个特征

df[['Age','Cabin','Embarked']].head(3)

2.对缺失值的处理

两种比较优劣

df[df['Age'] == np.nan] = 0
df[df['Age']==None]=0

数值列读取数据后，空缺值的数据类型为float64所以用None一般索引不到，比较的时候最好用np.nan

dropna函数和fillna函数的用法
dropna函数
fillna函数

2.3 特征观察与处理

我们对特征进行一下观察，可以把特征大概分为两大类：
数值型特征：Survived ，Pclass， Age ，SibSp， Parch， Fare，其中Survived， Pclass为离散型数值特征，Age，SibSp， Parch， Fare为连续型数值特征
文本型特征：Name， Sex， Cabin，Embarked， Ticket，其中Sex， Cabin， Embarked， Ticket为类别型文本特征。

数值型特征一般可以直接用于模型的训练，但有时候为了模型的稳定性及鲁棒性会对连续变量进行离散化。文本型特征往往需要转换成数值型特征才能用于建模分析。

#将连续变量Age平均分箱成5个年龄段，并分别用类别变量12345表示
df['AgeBand'] = pd.cut(df['Age'], 5,labels = ['1','2','3','4','5'])
#将连续变量Age划分为[0,5) [5,15) [15,30) [30,50) [50,80)五个年龄段，并分别用类别变量12345表示
df['AgeBand'] = pd.cut(df['Age'],[0,5,15,30,50,80],labels = ['1','2','3','4','5'])

2.4查看类别文本变量名及种类

方法一

df['Sex'].value_counts()

方法二

df['Sex'].unique()
df['Sex'].nunique()

从纯文本Name特征里提取出Titles的特征(所谓的Titles就是Mr,Miss,Mrs等)

df['Title'] = df.Name.str.extract('([A-Za-z]+)\.', expand=False)

参考链接
添加链接描述