5折交叉验证_机器学习干货交叉验证(Cross Validation)详解

如果感兴趣，欢迎点击上方“关注”，点击右下角「在看」分享给身边好友！

交叉验证也称为循环估计,是统计上将数据样本切割成较小集合的使用方法,由Seymour Geisser提出。

交叉验证应用场景主要在模型训练中,在给定的样本空间中,拿出大部分样本作为训练集,小部分样本使用刚建立的模型进行测试,并求这小部分样本的预测误差或者预测精度,同时记录它们的加和平均值,这个过程迭代K次,即K折交叉。把每个样本的预测误差平方加和,称为预测误差。

交叉验证的目的

• 从有限的学习数据中获取尽可能多的有效信息；

• 交叉验证从多个方向开始学习样本的，可以有效地避免陷入局部最小值；

• 可以在一定程度上避免过拟合问题；

常见的交叉验证形式

简单交叉验证:将原始数据随机分为两组,一组作为训练集,一组作为验证集,利用训练集训练分类器,然后利用验证集验证模型,记录最后的分类准确率的性能指标。

一般来说,简单交叉验证并非一种交叉验证,因为数据并没有交叉使用。随机从最初的样本中选出部分,形成交叉验证数据,而剩余的就当作训练数据。一般来说,少于原本样本三分之一的数据被选做验证数据。

优点:好处的处理简单,只需随机