目标
本文旨在掌握如何利用Scikit-learn库构建和训练SVM分类器,并评估其在分类任务中的表现。
环境
Python 3.x
Scikit-learn库(sklearn)
Jupyter Notebook或类似IDE(用于代码编写和结果展示)
数据集
使用sklearn提供的鸢尾花(Iris)数据集。该数据集包含150条记录,每条记录有4个特征(萼片长度、萼片宽度、花瓣长度、花瓣宽度),属于3个类别之一(Setosa、Versicolor、Virginica),是一个典型的多分类数据集。注意:若从本地导入iris.csv则还需要对标签进行编码成如0、1、2;如果直接load_iris()则不用,因为这时已经被自动编码好了。
实验步骤
1. 导入必要的库
导入Scikit-learn中相关数据集、用于数据处理和评估的相关模块、SVM分类器。
2. 加载、划分数据集
使用Scikit-Learn的datasets模块加载Iris数据集。
使用train_test_split函数将数据集划分为训练集和测试集。
3. 数据预处理
由于 SVM 对特征的尺度敏感,使用StandardScaler对特征进行标准化处理。
4. 构建SVM分类器
选择核函数并创建 SVM 模型。可以从linear线性核、rbf高斯核、poly多项式核等不同的核函数中进行选择,观察不同核对分类效果的影响。
5. 模型预测与评估
训练模型并对测试集进行预测,评估模型的表现,使用分类准确率等衡量模型分类效果。
代码参考
以下是一个利用Scikit-learn实现SVM分类Iris数据集的代码示例:
导入必要的库
import numpy as np
import pandas as pd
from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.svm import SVC
from sklearn.metrics import accuracy_score, classification_report, confusion_matrix
import matplotlib.pyplot as plt
import seaborn as sns
import matplotlib
加载数据集,并划分训练集和测试集
# 加载Iris数据集
iris = datasets.load_iris()
X = iris.data # 特征
y = iris.target # 标签
数据集划分
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
# 数据标准化
# 标准化特征数据
scaler = StandardScaler()
X_train = scaler.fit_transform(X_train)
X_test = scaler.transform(X_test)
构建和训练SVM模型
# 不同核函数的 SVM 模型
kernels = ['linear', 'rbf', 'poly']
models = {}
for kernel in kernels:
# 创建模型
model = SVC(kernel=kernel, random_state=42)
# 训练模型
model.fit(X_train, y_train)
# 保存模型
models[kernel] = model
预测
图1
评估模型
# 用于存储评估结果
results = {}
# 遍历每个核函数模型,预测并评估
for kernel, model in models.items():
# 计算分类准确率
acc = accuracy_score(y_test, y_pred)
# 分类报告
report = classification_report(y_test, y_pred, target_names=iris.target_names, output_dict=True)
# 混淆矩阵
cm = confusion_matrix(y_test, y_pred)
# 存储评估结果
results[kernel] = {
"accuracy": acc,
"classification_report": report,
"confusion_matrix": cm
}
# 打印评估结果
print(f"核函数: {kernel}")
print(f"分类准确率: {acc:.4f}")
print("分类报告:")
print(classification_report(y_test, y_pred, target_names=iris.target_names))
print("\n混淆矩阵:")
print(cm)
print("\n")
# 可视化混淆矩阵对比
fig, axes = plt.subplots(1, 3, figsize=(18, 6))
for i, (kernel, result) in enumerate(results.items()):
sns.heatmap(result["confusion_matrix"], annot=True, fmt='d', cmap='Blues', ax=axes[i], xticklabels=iris.target_names, yticklabels=iris.target_names)
axes[i].set_title(f"核函数: {kernel}")
axes[i].set_xlabel("预测值")
axes[i].set_ylabel("真实值")
plt.tight_layout()
plt.show()
图2
图3
图4
图5