19、支持向量回归与K近邻回归：原理、实践与对比

支持向量回归与K近邻回归：原理、实践与对比

1. 支持向量回归（SVR）

支持向量回归（SVR）是一种强大的回归算法，它允许我们通过调整超参数来解决欠拟合或过拟合问题，且无需增加特征数量。同时，与线性回归等方法相比，SVR对异常值不太敏感。

1.1 线性SVR建模

我们将以气象站的平均温度为目标，以纬度和海拔为特征进行建模。具体步骤如下：
1. 加载必要的库 ：

import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.svm import LinearSVR, SVR
from scipy.stats import uniform
from sklearn.impute import SimpleImputer
from sklearn.pipeline import make_pipeline
from sklearn.compose import TransformedTargetRegressor
from sklearn.impute import KNNImputer
from sklearn.model_selection import RandomizedSearchCV
import sklearn.metrics as skmet
import matplotlib.pyplot a