21、支持向量机与气象数据分析

支持向量机与气象数据分析

1. 支持向量机概述

支持向量机（SVM）是一类机器学习技术，由Vapnik及其同事于20世纪90年代初在AT&T实验室首次开发。其基础是支持向量算法，它是1963年Vapnik在俄罗斯开发的广义肖像算法的推广。

SVM分类器是二元或判别模型，用于区分两类数据。在学习阶段，这些分类器将观测值投影到多维决策空间，并构建一个分离面（决策边界），将该空间划分为两个归属区域。在最简单的线性情况下，决策边界在三维中是一个平面，在二维中是一条直线；在更复杂的情况下，分离面是形状日益复杂的曲线。

SVM可用于回归（支持向量回归，SVR）和分类（支持向量分类，SVC）。

2. 支持向量分类（SVC）

2.1 线性SVC示例

为了更好地理解SVC算法的工作原理，我们从最简单的二维线性情况开始。假设有一个简单的训练集，包含11个点，每个点有两个属性，属性值在0到4之间。这些值存储在NumPy数组 x 中，而它们所属的类别由另一个数组 y 中的0或1值定义。

import numpy as np
import matplotlib.pyplot as plt
from sklearn import svm

x = np.array([[1,3],[1,2],[1,1.5],[1.5,2],[2,3],[2.5,1.5],
              [2,1],[3,1],[3,2],[3.5,1],[3.5,3]])
y = [0]*6 + [1]*5

p