机器学习算法基础day6-7

1sklearn k-近邻算法API

 数据的处理

（1）缩小数据集范围

DataFrame.query()

（2）处理日期数据

pd.to_datetime

pd.DatetimeIndex

（3）增加分割的日期数据

（4）删除没用的日期数据

pd.drop

（5）将签到位置少于n个用户的删除

place_count =data.groupby('place_id').aggregate(np.count_nonzero)
tf = place_count[place_count.row_id > 3].reset_index()

data = data[data['place_id'].isin(tf.place_id)]

k近邻算法实例-预测入住位置

 

 

 模型的选择与调优

（1）交叉验证

交叉验证：将拿到的数据，分为训练和验证集。以下图为例：将数据分成5份，其中一份作为验证集。然后经过5次(组)的测试，每次都更换不同的验证集。即得到5组模型的结果，取平均值作为最终结果。又称5折交叉验证。

（2）网格搜索

超参数搜索-网格搜索API

•sklearn.model_selection.GridSearchCV

•sklearn.model_selection.GridSearchCV(estimator, param_grid=None,cv=None)

•对估计器的指定参数值进行详尽搜索

•estimator：估计器对象

•param_grid：估计器参数(dict){“n_neighbors”:[1,3,5]}

•cv：指定几折交叉验证

•fit：输入训练数据

•score：准确率

•结果分析：

•best_score_:在交叉验证中测试的最好结果

•best_estimator_：最好的参数模型

•cv_results_:每次交叉验证后的测试集准确率结果和训练集准确率结果

2 朴素贝叶斯-贝叶斯公式

 

 注：w为给定文档的特征值(频数统计,预测文档提供)，c为文档类别

 sklearn朴素贝叶斯实现API

sklearn.naive_bayes.MultinomialNB(alpha = 1.0)

•朴素贝叶斯分类

•alpha：拉普拉斯平滑系数

朴素贝叶斯案例

（1）加载20类新闻数据，并进行分割

（2）生成文章特征词

（3）朴素贝叶斯estimator流程进行预估

 朴素贝叶斯分类优缺点

优点：

朴素贝叶斯模型发源于古典数学理论，有稳定的分类效率。

对缺失数据不太敏感，算法也比较简单，常用于文本分类。

分类准确度高，速度快

缺点：

需要知道先验概率P(F1,F2,…|C)，因此在某些时候会由于假设的先验模型的原因导致预测效果不佳。