Python与机器学习库Scikit-learn实战

一、开启魔法之旅：初识Scikit-learn

从零开始：为什么选择Scikit-learn作为你的机器学习伙伴

想象一下，你是一位魔法师，而数据就是你的魔法材料。在众多的魔法书中，Scikit-learn就像是《哈利·波特》中的《高级魔药制作》，它不仅包含了丰富的配方（算法），还有详细的步骤指导，让你能够轻松地将这些魔法材料变成强大的魔药（模型）。Scikit-learn以其简洁的API设计、丰富的文档支持和高效的性能，在机器学习社区中享有盛誉。无论是初学者还是经验丰富的从业者，都能从中受益匪浅。

快速入门：安装Scikit-learn并运行第一个模型

要开始这段魔法旅程，我们首先需要确保我们的魔法工具箱里有Scikit-learn这个法宝。你可以通过pip命令来安装它：

pip install scikit-learn

接下来，让我们用一个简单的例子来体验一下Scikit-learn的魅力。我们将使用Iris数据集来进行分类任务，这是一个非常经典的数据集，包含三种不同类型的鸢尾花以及它们的四个特征值。

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
from sklearn.metrics import accuracy_score

# 加载数据
iris = load_iris()
X, y = iris.data, iris.target

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 创建K近邻分类器
knn = KNeighborsClassifier(n_neighbors=3)
knn.fit(X_train, y_train)

# 预测
y_pred = knn.predict(X_test)

# 计算准确率
accuracy = accuracy_score(y_test, y_pred)
print(f"模型准确率为: {
     
     accuracy * 100:.2f}%")

这段代码展示了如何加载数据、划分数据集、训练模型以及评估模型。通过几行简单的代码，我们就能够完成一个基本的机器学习流程。

探索宝藏：Scikit-learn的主要功能和模块介绍

Scikit-learn就像一座藏宝阁，里面装满了各种各样的宝藏（算法和工具）。主要可以分为以下几个部分：

• 数据预处理：包括数据标准化、归一化等功能。
• 监督学习：提供多种分类和回归算法，如线性模型、支持向量机等。
• 无监督学习：聚类、降维等方法帮助发现数据中的潜在结构。
• 模型选择与评估：交叉验证、网格搜索等工具帮助找到最佳模型参数。
• 实用工具：包括数据生成器、评估指标计算等辅助功能。

二、数据准备的艺术：让数据为模型做好准备

数据清洗小能手：处理缺失值、异常值及重复记录

数据清洗是整个数据分析过程中的重要环节。如果数据不干净，那么即使是最先进的模型也可能无法发挥其应有的效果。下面是一些常见的数据清洗技巧：

• 处理缺失值：可以通过删除含有缺失值的行或列，或者填充缺失值来处理。
• 处理异常值：识别并移除那些明显偏离正常范围的数据点。
• 去重：检查并移除重复的记录，以避免对结果造成不必要的影响。

import pandas as pd
import numpy as np

# 创建示例数据
data = {
   
   
    'A': [1, 2, None, 4, 5],
    'B': [6, 7, 8, 9, 10],
    'C': [None, 12, 13, 14, 15]
}

df = pd.DataFrame(data)

# 处理缺失值
df.fillna(df.mean(), inplace=True)  # 用均值填充缺失值

# 检查异常值
Q1 = df.quantile(0.25)
Q3 = df.quantile(0.75)
IQR = Q3 - Q1
df = df[~((df < (Q1 - 1.5 * IQR)) | (df > (Q3 + 1.5 * IQR))).any(axis=1)]

# 去重
df.drop_duplicates(inplace=True)

print(df)

特征工程大师班：特征选择、转换与创建新特征

特征工程就好比厨师烹饪前的食材准备。好的食材可以让菜肴更加美味，同样，高质量的特征可以使模型表现得更好。这包括了特征选择、特征转换以及创造新的特征。

• 特征选择：选择对目标变量最有影响力的特征。
• 特征转换：比如将类别型特征转换成数值型特征。
• 创造新特征：根据现有特征创建新的组合特征。

from sklearn.feature_selection import SelectKBest, f_classif
from sklearn.preprocessing import OneHotEncoder

# 特征选择
selector = SelectKBest(score_func=f_classif, k=2)
X_new = selector.fit_transform(X, y)

# 特征转换
encoder = OneHotEncoder(sparse=False)
encoded_features = encoder.fit_transform(df[['category_column']])

# 创建新特征
df['new_feature'] = df['feature1'] * df['feature2'