本文探讨了交叉验证在提高模型泛化能力中的作用，对比了K-fold与StratifiedKFold的区别。K-fold将数据不改组地拆分为k个部分，而StratifiedKFold确保每个折叠中各类别比例与整体保持一致。通过具体数据集实例和评价指标 auc，展示了两者在实际应用中的效果，尽管在小规模数据集上表现接近，但StratifiedKFold更适用于类别不平衡的情况。
为什么要进行交叉验证？
交叉验证的目的：在实际训练中，模型通常对训练数据好，但是对训练数据之外的数据拟合程度差。用于评价模型的泛化能力，从而进行模型选择。模型选择主要通过调节不同超参数得到的评估函数好坏获得。所以目的就是提高模型的泛化能力 以便于测试集的预测得到一个好的结果
比如：分类可以用auc评价模型好坏， 当超参数1 对应的auc值为0.80，而超参数2对应的suc值为0.90 。那么我们选择超参数2进行建模，当然折叠交叉验证的主要功能不是调参，而是选择模型（细节在后面讲）
官网解释
k_fold 的解释：将数据集拆分为 k 个连续的折叠（默认情况下不改组）
StratifiedKFold的解释：kfold的变体，通过保留每个类别的样本百分比来完成的。
通过具体数据集的划分 比较二者的不同之处
最低0.47元/天 解锁文章
扫一扫
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
