贝叶斯决策之判别函数和决策面

本文深入探讨了判别函数的概念,包括其数学表达式和决策规则,并详细解释了决策面在分类任务中的作用。通过一维、二维及三维特征空间的例子,直观展示了决策面如何将空间划分为不同类别区域。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、判别函数:

1.1 公式:

 

gi(x)=f(p(wi|x))

其中

f():单调递增函数

1.2 决策规则:

 

if  gi(x)>gj(x),∀ i≠j→x∈wi

图示如下:

这里写图片描述

1.3 常用判别函数:

 

 

二、决策面(Decision Surfaces)

2.1 概念

如果输入的数据是一个LL维空间特征,考虑一个MM分类问题,那么分类器将会把这个LL维空间的特征点分为MM个区域。每个区域显然就属于一个类别,如果输入一个点xx落在第ii个区域,那么xx就属于第ii类。分割成这些区域的边界就称为决策面。(即分割不同类的面(点、线、超平面))

2.2 公式

对于两个相邻的区域RiRi和RjRj来说,如果输入样本xx,我们分别计算该样本属于第ii的概率P(wi|x)P(wi|x)和第jj类的概率P(wj|x)P(wj|x),并定义函数g(x)=P(wi|x)−P(wj|x)g(x)=P(wi|x)−P(wj|x) , 那么此时g(x)g(x)有如下三种情况。

这里写图片描述

其中

g(x)=0g(x)=0就是分割 区域RiRi和RjRj的决策面。

2.3 例子(一维)

 

这里写图片描述

输入:x(一维)       决策函数:p(x|w)        虚线:决策面(即点x0)

  • 一维特征空间:决策面时点
  • 二维特征空间:决策面时线
  • 三维特征空间:决策面时超平面
  • 决策区域由决策面决定
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值