交叉验证的一些概念

调参流程

训练集：训练模型

验证集：评估模型，找到一组最优的超参数

测试集：测试模型

K折交叉验证

上述调参流程是在数据充足的情况下，但是如果数据量太少，验证集无法涵盖样本所有特征，会影响超参数的调参过程。比如人脸识别里面，有亚洲人、非洲人、欧洲人三种人脸，但数据集太少，验证集肯=可能只有亚洲人一种人脸。

此时，可以将训练集分成K份，测试集不变，选其中第一份做验证集，其余K-1份还是训练集，接着，选第二份做验证集，其余K-1份还是训练集，依次......

留一交叉验证

数据极度缺乏的情况下，每次选取一个样本做验证集