1、支持向量机在模式分类中的应用与发展

支持向量机在模式分类中的应用与发展

一、支持向量机的发展背景与优势

支持向量机（SVM）自引入以来，核方法在理论、模型和应用方面取得了巨大发展。涵盖了泛化理论的进步、核分类器和回归器及其变体、各种特征选择和提取方法，以及在生物学、医学、化学和计算机科学等多个领域的广泛应用，如模式分类和回归。

与其他分类器相比，支持向量机在训练时直接从训练数据确定决策边界，使决策边界在高维特征空间中的分隔边际最大化。这种基于统计学习理论的学习策略，能最小化训练数据和未知数据的分类误差。而多层神经网络分类器在训练时通常通过修正网络权重来最小化网络输出与期望输出之间的平方和误差，但由于训练获得的类间决策边界不是直接确定的，其对未知数据的分类性能（即泛化能力）依赖于训练方法，在训练数据较少且类间无重叠时，性能会大幅下降。因此，支持向量机和其他分类器的泛化能力差异显著，尤其是在训练数据数量较少的情况下。

二、支持向量机存在的问题及解决方案

（一）存在的问题

1. 多类分类存在不可分类区域 ：在原始支持向量机中，n 类分类问题被转化为 n 个两类问题。在第 i 个两类问题中，确定将第 i 类与其余类分开的最优决策函数。但在分类时，如果多个决策函数将一个数据样本分类到确定的类别，或者没有决策函数将数据样本分类到确定的类别，该数据样本就无法分类。
2. 训练速度慢 ：支持向量机通过求解变量数量等于训练数据数量的二次规划问题进行训练，因此对于大量训练数据，训练速度较慢。

（二）解决方案