GridSearchCV与cross_validation区别

转自https://blog.youkuaiyun.com/qq_32241189/article/details/80182114

一.交叉验证

 

    交叉验证就是将原始数据集(dataset)划分为两个部分.一部分为训练集用来训练模型,另外一部分作为测试集测试模型效果.

    作用:

    1） 交叉验证是用来评估模型在新的数据集上的预测效果,也可以一定程度上减小模型的过拟合

    2） 还可以从有限的数据中获取尽可能多的有效信息。

    交叉验证主要有以下几种方法:

    ① 留出法.简单地将原始数据集划分为训练集,验证集,测试集三个部分.

    ② k折交叉验证.(一般取5折交叉验证或者10折交叉验证)

    ③ 留一法.(只留一个样本作为数据的测试集,其余作为训练集)---只适用于较少的数据集

    ④ Bootstrap方法.(会引入样本偏差)

二.网格交叉验证(网格搜索)

    sklearn中对GridSearchCV的解释为:Exhaustive search over specified parameter values for an estimator.

    也就是说,网格交叉验证是对估计器的指定参数值穷举搜索.

    通过给定不同的参数值的组合,验证选择出一组最优的Parameters.

三.总结

    网格交叉验证用于找到一组最优的参数组合,使得在这组参数下模型效果最好;而交叉验证主要用于模型的效果验证,它是对于数据集的测试集和验证集的选择,也能够有效的防止模型过拟合.所以说,这两者是不同的概念.