线性分类器之Fisher线性判别函数

Fisher线性判别是一种线性分类方法,旨在寻找一条直线将样本投影,使得同类样本投影聚集且不同类样本分开。通过最大化类间离散度与最小化类内离散度的比值来确定最优投影方向。该方法适用于线性可分的情况,但可能忽视样本分布信息,导致分类效果不理想。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

        Fisher判别是一种应用极为广泛的线性分类的方法,基本思想是:把维空间的所有模式投影到一条过原点的直线上,即将模式的维数压缩到一维,并要求统一类型的样本尽可能多地聚集在一起,不同类型的样本尽可能地分开。

        如下图所示,两类模式的分布,它们的投影不论在轴上都是混杂的,因此单纯取它们在轴上的投影式不好分类的。但是,有可能存在一条直线AB,使得样本在它上面的投影很容易分开。

        设给定两类模式的样本集,它们有维的样本。我们的目标就是找到一条直线,使得模式样本在这条直线上的投影最有利于分类。设为这条直线正方向的单位向量,即,于是有到直线的投影得到相应的集合,其中每个就是在单位向量的投影。于是就有:

                                                                                                                                                           (1)

         为了找到最有利于分类的方向,需要建立一个准则函数,它能反映不同类别模式在这条直线投影分离程度的好坏。

         为了使类别分离得好,应使各类模式投影均值彼此间的间距尽可能大。设

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值