25、K近邻与支持向量机分类：原理、实践与对比

K近邻与支持向量机分类：原理、实践与对比

K近邻算法用于多分类问题

K近邻（K-Nearest Neighbors，KNN）算法在多分类问题中有着广泛的应用。接下来，我们将通过两个具体的例子来详细介绍如何使用KNN进行多分类。

机器故障类型预测

首先，我们使用机器故障类型的数据集来构建KNN多分类模型。这个数据集可以从 这里 获取，包含10000个观测值、12个特征和两个可能的目标变量。

以下是构建模型的具体步骤：
1. 加载必要的模块 ：

import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import OneHotEncoder, MinMaxScaler
from imblearn.pipeline import make_pipeline
from sklearn.impute import SimpleImputer
from sklearn.compose import ColumnTransformer
from sklearn.model_selection import RandomizedSear