机器学习-寻找最优超参数

最新推荐文章于 2025-05-24 21:22:43 发布

原创

最新推荐文章于 2025-05-24 21:22:43 发布 · 5k 阅读

8 ·

CC 4.0 BY-SA版权

本文档展示了如何使用scikit-learn库中的GridSearchCV来寻找支持向量机（SVM）的最佳超参数。通过交叉验证，尝试了不同的参数组合，包括线性核、多项式核和径向基函数（RBF）核，以及不同C和gamma值。最终，展示了找到的最优超参数以及基于这些参数的SVM在测试集上的性能报告。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

from sklearn.cross_validation import train_test_split
from sklearn.svm import SVC
from sklearn.metrics import classification_report
from sklearn.grid_search import GridSearchCV
from loadFile import load_data
from plot_classifier import plot_classifier
import numpy as np
import matplotlib.pyplot as plt

input_file = 'data_multivar_imbalance.txt'
X, y = load_data(input_file)

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=33)
#通过交叉验证设置参数
parameter_grid = [  {'kernel': ['linear'], 'C': [1, 10, 50, 600]},
                    {'kernel': ['poly'], 'degree': [2, 3]},
                    {'kernel': ['rbf'], 'gamma': [0.01, 0.001], 'C': [1, 10, 50, 600]},
                 ]
#定义需要使用的指标
metrics = ['precision', 'recall_weighted']
#为每个指标搜索最优超参数
for metric in metrics:
    print('Searching optimal hyperparameters for',metric)
    classifier = GridSearchCV(SVC(C=1),parameter_grid, cv=5, scoring=metric)
    classifier.fit(X_train