sklearn学习笔记（2）交叉验证

最新推荐文章于 2025-11-11 21:06:55 发布

原创

最新推荐文章于 2025-11-11 21:06:55 发布 · 3.8k 阅读

5 ·

CC 4.0 BY-SA版权

本文介绍了sklearn中几种不同的交叉验证策略，包括K-fold、Leave-one-out、Leave-P-out和Leave-one-label-out等，并展示了每种策略的具体划分示例。通过对样本的不同划分方式，这些策略有助于评估模型在不同子集上的性能。

link text
几种不同的CV策略生成器
cross_val_score中的参数cv可以接受不同的CV策略生成器作为参数，以此使用不同的CV算法。除了刚刚提到的KFold以及StratifiedKFold这两种对rawdata进行划分的方法之外，还有其他很多种划分方法，这里介绍几种sklearn中的CV策略生成器函数。
K-fold
最基础的CV算法，也是默认采用的CV策略。主要的参数包括两个，一个是样本数目，一个是k-fold要划分的份数。

fromsklearn.model_selection import KFold  
X= np.array([[1, 2], [3, 4], [1, 2], [3, 4]])  
y= np.array([1, 2, 3, 4])  
kf= KFold(n_splits=2)  
kf.get_n_splits(X)
print(kf)   
for train_index, test_index in kf.split(X):  
    print("TRAIN:",train_index, "TEST:", test_index)  
    X_train,X_test = X[train_index], X[test_index]  
    y_train,y_test = y[train_index], y[test_index]  
 ```
#这里kf.split(X)返回的是X中进行分裂后train和test的索引值，令X中数据集的索引为0，1，2，3；第一次分裂，先选择test，索引为0和1的数据集为test,剩下索引为2和3的数据集为train；第二次分裂，先选择test，索引