凸优化第七章统计估计 7.3 最优检测器设计及假性检验

7.3 最优检测器设计及假性检验

二值假设检验

  1. 检测问题
  2. 随机检测器
  3. 检测概率矩阵
  4. 检测器设计的多准则表述
  5. 标量化

检测问题:

假设X是随机变量,在\left \{ 1,2\cdots n \right \}中取值,其概率密度分布和参数\theta\in\left \{ 1,2,\cdots ,m \right \}的取值有关,对\theta的m个可能值,X的概率密度分布可以由矩阵P \in R^{n\times m}表征,其元素为:p_{kj}=prob(X=k|\theta =j),即矩阵的第j列对于参数值\theta =j的概率分布。

\theta的m个可能值称为m个假设,我们需要从假设中猜想哪个是正确的,这个问题称为假设检验,而假设检验也可以看成观测到X的某个取值,然后判断不寻常事件(某种假设为一种常规事件,而其他假设均对应不寻常事件)是否发生,如果发生了,是哪一个不寻常事件。于是假设检验问题又称为检测问题。

二值假设检验,即一种特殊的检验问题,即m=2,只有两个假设。这里X是随机变量,且X\in \left \{ 1,2,\cdots,n \right \},假设1:X由概率密度分布p=(p_1\cdots,p_n)产生;假设2:X由概率密度分布q=(q_1\cdots,q_n)产生;

随机检测器

随机检测器可以定义为一个矩阵T \in R^{m\times n},其元素为t_{ik}=prob(\hat{\theta}=i|X=k),其中\hat{\theta}\theta的猜想值,k是X的观测值。T可以理解为,如果我们得到观测值X=k,那么检测器以概率t_{ik}给出估计值\hat{\theta}=i。显然T满足两个约束,\forall k \in \left\{1,\cdots m \right \}t_k\succeq 0,\boldsymbol{1}^Tt_k=1

在二值假设检验中:如果观测到X=k,估计假设1的概率为t_{1k},估计假设2的概率为t_{2k}

如果矩阵T的元素要么是0,要么是1,则矩阵T是确定性检测器。

检测概率矩阵

定义检测矩阵D=TP,于是有D_{ij}=(TP)_{ij}=prob(\hat{\theta}=i|\theta =j),即D_{ij}是当\theta =j时,猜想为\hat{\theta}=i的概率。

二值假设检验中:

D =[Tp \, \, Tq]=\begin{bmatrix} 1-P_{fp} &P_{fn} \\ P_{fp} & 1-P_{fn} \end{bmatrix}

其中P_{fp}表示X是由分布p产生但却被估计为假设2(由分布q产生)的概率,P_{fn}表示X是由分布q产生但却被估计为假设1(由分p产生)的概率。

检测器设计的多准则表述

对于二值假设检验问题,检测器设计的目标就是极小化P_{fp}P_{fn},即

minimize \, \, (p_{fp},p_{fn})\\ subject \, \, to \, \, \begin{matrix} t_{1k}+t_{2k}=1,i=1,\cdots ,n \\ t_{ik}\geq 0,i=1,2\, \,k=1, \cdots n \end{matrix}

而对于一般的假设检验,检测器设计的目标是极小化D_{ij},i \neq j,即

minimize \, \, D_{ij},i\neq j\\ subject \, \, to \, \, t_{ik}\succeq 0,\boldsymbol{1}^Tt_k=1,k=1,\cdots,n

标量化

对于二值假设检验问题的标量化,即加上一个惩罚权重,即:

minimize \, \, (Tp)_2+\lambda (Tq)_1 \\ subject \, \, to \, \, t_{1k}+t_{2k}=1,t_{ik}\geq 0,i=1,2 \, \, k=1, \cdots n

其中(Tp)_2表示列向量Tp的第2行的元素。

解析解:

(t_{1k},t_{2k})=\left\{\begin{matrix} (1,0) & p_k \geq \lambda q_k \\ (0,1) &p_k < \lambda q_k \end{matrix}\right.

对于一般的假设检验问题的标量化,即引入权系数将目标函数加权求和,即

\sum_{i,j=1}^mW_{ij}D_{ij}=tr(W^TD)

其中W \in R^{m \times m}

检验问题等价于:

minimize \, \, tr(W^TD),i\neq j\\ subject \, \, to \, \, t_{ik}\succeq 0,\boldsymbol{1}^Tt_k=1,k=1,\cdots,n

目标函数还可以描述为一系列t_k的线性函数的和:

tr(W^TD)=tr(W^TTP)=tr(PW^TT)=\sum_{k=1}^nc_k^Tt_k

其中c_kWP^T的第k列。

于是可以通过分别求解下面的线性规划来求解检验问题。

minimize \, \, c_k^Tt_k\\ subject \, \, to \, \, t_{ik}\succeq 0,\boldsymbol{1}^Tt_k=1,k=1,\cdots,n

极小极大检测器

对于二值假设检验,极小极大检测器,即求解:

minimize \, \, max\left \{ p_{fp},p_{fn} \right \}\\ subject \, \, to \, \, t_{1k}+t_{2k}=1, t_{ik}\succeq 0,i=1,2,k=1,\cdots n

 

来源:https://blog.youkuaiyun.com/wangchy29/article/details/87465799

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值