习题关于sklearn（第十五周）

最新推荐文章于 2024-09-09 11:06:22 发布

原创最新推荐文章于 2024-09-09 11:06:22 发布 · 368 阅读

CC 4.0 BY-SA版权

本篇博客通过创建一个包含至少1000个样本和10个特性的分类数据集，运用10重交叉验证进行数据拆分。接着，分别训练了GaussianNB、SVC（RBF内核，尝试不同C值）和RandomForestClassifier（尝试不同n_estimators值）三种算法，并使用准确性、F1-score和AUC ROC作为评估指标，详细探讨了这些算法在该数据集上的表现。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

题目：

1 创建分类数据集（要求：样本数≥1000，特性≥10）

2 使用10重交叉验证拆分数据集

3 训练算法：

GaussianNB算法

SVC算法（C的可能值：[1e-02，1e-01，1e00，1e01，1e02]，RBF内核)

RandomForestClassifier算法（n估计值的可能值：[10，100，1000]）

4 评估交叉验证的性能：

准确性

F1-score

AUC ROC

代码：

from sklearn import datasets, cross_validation  
from sklearn.naive_bayes import GaussianNB  
from sklearn.svm import SVC  
from sklearn.ensemble import RandomForestClassifier  
from sklearn import metrics  
  
def evaluate(y_test, pred, method):  
    acc = metrics.accuracy_score(y_test, pred)  
    f1 = metrics.f1_score(y_test, pred)  
    auc = metrics.roc_auc_score(y_test, pred)  
    print(method + ":")  
    print("\nacc: ")  
    print(acc)  
    print("\nf1: ")  
    print(f1)  
    print("\nauc: ")  
    print(auc)  
    print("\n")  
  
dataset = datasets.make_classification(n_samples=1000,   
    n_features=10,n_informative=2,   
    n_redundant=2, n_repeated=0, n_classes=2)  
  
kf = cross_validation.KFold(1000, n_folds=10, shuffle=True)  
for train_index, test_index in kf:  
    X_train, y_train = dataset[0][train_index], dataset[1][train_index]  
    X_test, y_test = dataset[0][test_index], dataset[1][test_index]  
   
clf = GaussianNB()  
clf.fit(X_train, y_train)  
pred = clf.predict(X_test)  
evaluate(y_test,pred,"naive_bayes")  
  
C_values = [1e-02, 1e-01, 1e00, 1e01, 1e02]  
for C_value in C_values:  
    clf = SVC(C=C_value, kernel='rbf', gamma=0.1)  
    clf.fit(X_train, y_train)  
    pred = clf.predict(X_test)  
    evaluate(y_test,pred,"SVC, C_value= %s" % str(C_value))  
   
clf = RandomForestClassifier(n_estimators = 6)  
clf.fit(X_train, y_train)  
pred = clf.predict(X_test)  
evaluate(y_test,pred,"RandomForestClassifier")

结果：