2、支持向量机决策函数与分类方法解析

支持向量机决策函数与分类方法解析

1. 支持向量机及相关概念概述

支持向量机及其变体和扩展，常被称为基于核的方法，在模式分类和函数逼近问题中得到了广泛研究和应用。模式分类旨在将对象归入给定的类别中，为解决特定的模式分类问题，会开发分类器软件，其输入被称为特征，用于代表每个类别或分隔不同类别的数据。

开发分类器一般有两种方法：
- 参数方法 ：假设对数据分布有先验知识。
- 非参数方法 ：不假设任何先验知识，如神经网络、模糊系统和支持向量机等。分类器通过输入 - 输出对的训练来获取决策函数，从而将输入分类到给定的类别中。

2. 决策函数

2.1 两类问题的决策函数

对于将一个 m 维向量 x 分类到两个类别中的问题，给定标量函数 g1(x) 和 g2(x) 分别对应类别 1 和类别 2。分类规则如下：
- 若 g1(x) > 0 且 g2(x) < 0，则将 x 分类到类别 1。
- 若 g1(x) < 0 且 g2(x) > 0，则将 x 分类到类别 2。

但当 g1(x)g2(x) > 0 时，x 无法分类。为解决这个问题，可以采用以下规则：
- 若 g1(x) > g2(x)，则将 x 分类到类别 1。
- 若 g1(x) < g2(x)，则将 x 分类到类别 2。此时，类别边界由 g1(x) = g2(x) 给出，这种决策函数称为间接决策函数。

若定义 g1(x) = -g2(x)，则分类规则变为：
-