【模式识别与机器学习】——3.2广义线性判别函数

 

出发点

　　线性判别函数简单，容易实现； 非线性判别函数复杂，不容易实现； 若能将非线性判别函数转换为线性判别函数，则有利于模式分类的实现。

基本思想

　　设有一个训练用的模式集{x}，在模式空间x中线性不可分，但在模式空间x*中线性可分，其中x*的各个分量是x的单值实函数，x*的维数k高于x的维数n，即若取  x* = (f1(x), f2(x), …., fk(x)), k>n　则分类界面在x*中是线性的，在x中是非线性的，此时只要将模式x进行非线性变换，使之变换后得到维数更高的模式x*，就可以用线性判别函数来进行分类。

广义线性判别函数的描述

一个非线性判别函数可如下表示：

 

其中{f_i(x), i = 1,2,…,k}是模式x的单值实函数。若定义成广义形式：

x* = (f₁(x), f