30、支持向量机与核方法：理论与应用解析

支持向量机与核方法：理论与应用解析

1. 模型优势与应用场景

在环境监测领域，通过对 137Cs 放射性测量的案例研究发现，所开发的模型能够识别同时运行但尺度不同的过程，并且便于处理非平稳情况。与普通克里金等地质统计估计器相比，这些优势在设计用于监测关键变量的环境监测系统时尤为重要，因为这些变量的值可能在时间和空间上快速波动。不过，该方法需要对可能存在的短尺度模式有一定的先验知识，而在呈现极端事件的环境事故早期阶段，这种知识可能难以获取。因此，算法需要在预期可能出现已知模式的事件时进行训练。

2. 核方法基础与扩展

传统上，支持向量（SV）算法从其线性版本开始引入。在 SV 分类中，先引入最优大间隔分离超平面，然后使用核技巧将其扩展到非线性支持向量机；在回归中，先构建与数据最拟合的具有 ε - 管的最平超平面，然后扩展到非线性核展开。这些方法的共同特点是，核展开是作为风险最小化问题的解决方案出现的。

在再生核希尔伯特空间（RKHS）的框架下，代表定理为这个问题提供了答案。考虑输入空间向量索引集 X 的可能基于核的模型集合作为一个函数空间：
[
f(x) = \sum_{i=1}^{n} \alpha_i K(x, x_i) + b, n \in N, x_i \in X, \alpha_i \in R
]
然后，定义该空间中一对函数 f 和 g 的点积为：
[
\langle f, g \rangle_H = \sum_{i=1}^{n} \sum_{j=1}^{n’} \alpha_i \alpha’ j K(x_i, x’_j)
]
这个空间是一个合适的 RKHS