StratifiedShuffleSplit实现分层抽样交叉验证

本文介绍了如何利用StratifiedShuffleSplit进行分层抽样交叉验证,以解决K-折交叉验证中类别不平衡的问题。通过设置n_splits和random_state参数,实现数据的随机切分,并保持类别比例。在每个分割中,训练模型并计算精度,最终展示模型在不同数据子集上的泛化能力。示例中展示了基于随机森林的交叉验证过程,平均精度超过94%,证明了模型的泛化性能。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

StratifiedShuffleSplit()实现分层抽样交叉验证
1. K-折交叉验证法
  • 交叉验证通常采用K-折交叉验证法–将训练数据拆分成K份,用其中K-1份进行训练,剩下的一份进行预测,从而检测模型的数据泛化能力。
  • 使用cross_val_score可以实现交叉验证,但在某些场景下,为了解决不同类别的样本间数量差异较大的问题,可以引入sklearn.model_selection下的StratifiedShuffleSplit类进行分层抽样和测试数据的分割,从而提高模型的说服力。
2. StratifiedShuffleSplit的使用
(1) 创建StratifiedShuffleSplit对象
skfolds = StratifiedKFold(n_splits=3, random_state=25, shuffle=True)
  • n_split: 用于后续split方法中将将数据分成n_split份,其中测试数据占1份
  • random_state&shffle: 随机分割种子,若指定random_state,则需要设置shuffle为True。
(2) 数据切割
for train_idx, test_idx in skfolds.split(x_train, y_train):
    pass
  • split方法会对x_trainy_train的数据进行切分,得到train_idxtest_idx,即训练数据和测试数据的索引,其中len(train_idx) / len(test_idx) = n_split - 1。
  • split方法会根据y_train的类别进行分层抽样。
3. 实现分层抽样的交叉验证
cross_score_SKF = []
for train_idx, test_idx in skfolds.split(x_train, y_train):
    # print(len(train_idx) / len(test_idx))  # n_split - 1

    clone_clf = clone(RFClf)  # from sklearn.base import clone, 拷贝分类器
    # 通过索引选定训练数据集和测试数据集
    x_train_folds = x_train.iloc[train_idx]
    y_train_folds = y_train.iloc[train_idx]
    x_test_fold = x_train.iloc[test_idx]
    y_test_fold = y_train.iloc[test_idx]
	
    # 模型训练
    clone_clf.fit(x_train_folds, y_train_folds)
    y_pred_fold = clone_clf.predict(x_test_fold)
    # precision_score进行评分,也可以灵活地选择其它评分策略
    accuracy = precision_score(y_test_fold, y_pred_fold)
    cross_score_SKF.append(round(accuracy, 8))
print(cross_score_SKF)  # [0.94791667, 0.98378378, 0.97883598]
  • 本例中建立了一个随机森林的基础模型,用precision_score即精度作为策略进行评分。
  • 在使用StratifiedShuffleSplit实现交叉验证中,n_split参数可理解为cross_val_score()函数中的cv参数。
  • 最终交叉验证的精度均高于94%,可以说明模型具有较强的数据泛化能力。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值